OpenAI telah mengembangkan GPT-Red, sebuah sistem AI internal yang dirancang untuk menguji keamanan model AI mereka sendiri. GPT-Red bekerja sebagai alat "red teaming" otomatis, mencari celah keamanan dengan mengirimkan berbagai prompt ke model AI target dan menganalisis responsnya. Melalui teknik reinforcement learning self-play, GPT-Red dilatih untuk menjadi lebih efektif dalam menemukan kelemahan dibandingkan tim keamanan manusia. Dalam pengujian internal, GPT-Red menunjukkan tingkat keberhasilan yang jauh lebih tinggi dalam mengeksploitasi skenario yang diuji dibandingkan dengan tim manusia. Selain itu, penggunaan GPT-Red juga terbukti mampu mengurangi risiko serangan prompt injection dan jenis serangan lainnya pada model AI OpenAI.
