OpenAI a creat GPT-Red, un model de inteligență artificială conceput să atace propriile sisteme pentru a le face mai sigure
OpenAI, una dintre cele mai cunoscute companii din domeniul inteligenței artificiale, a anunțat public existența unui proiect intern inedit: un model de limbaj de mari dimensiuni (LLM) denumit GPT-Red, creat special pentru a ataca și a testa vulnerabilitățile celorlalte sisteme de inteligență artificială dezvoltate de companie.
Anunțul a fost făcut în data de 16 iulie 2026, potrivit publicației MIT Technology Review, care a relatat despre această inițiativă neobișnuită în industria tehnologiei avansate.
Ce este GPT-Red și cum funcționează
GPT-Red este descris ca un model de inteligență artificială cu rol ofensiv, conceput să acționeze ca un adversar virtual în raport cu celelalte modele OpenAI. Conform MIT Technology Review, acesta funcționează ca un "sparring partner" — un partener de antrenament — pentru sistemele pe care compania le dezvoltă și le pregătește pentru lansare publică.
Principiul din spatele acestui instrument este relativ simplu, dar cu implicații tehnice profunde: pentru a construi un model de inteligență artificială mai sigur, trebuie mai întâi să știi cum poate fi atacat. GPT-Red este instruit să identifice modalități prin care alte modele pot fi manipulate, păcălite sau determinate să producă răspunsuri dăunătoare, periculoase sau contrare politicilor interne ale OpenAI.
Această abordare este cunoscută în industrie sub denumirea de „red teaming
📰 Surse principale:
844.ro raporteaza pe baza surselor de mai sus. Verificarea independenta este in curs.
Foto: KlausHausmann / Pixabay