I ‘RED-TEAMERS’ DELL’INTELLIGENZA ARTIFICIALE

Ad agosto, durante la conferenza hacker DEFCON, la Casa Bianca ha ospitato la prima competizione di IA generativa Red Team in cui migliaia di partecipanti si sono iscritti per testare otto modelli linguistici di grandi dimensioni (LLM) forniti da varie aziende di IA. I partecipanti hanno dovuto affrontare una serie di sfide diverse. Come suggerisce il nome dell’evento, i partecipanti dovevano agire come ‘read team’ dell’IA. Il termine è diventato popolare negli Stati Uniti grazie alle simulazioni militari dell’epoca della Guerra Fredda, dove le squadre avversarie “nemiche” erano rappresentate dal colore rosso e quelle “di casa” dal colore blu. La stessa terminologia è stata poi adottata dalle comunità della sicurezza e della cybersecurity, dove i professionisti della ‘read team’ cercano di attaccare (o di accedere) a un luogo fisico o a una rete di computer, mentre quelli della squadra blu cercano di difendersi dall’intrusione. A sua volta, la comunità dell’IA ha adottato il ‘red team dalla cybersecurity

Leggi da Center for Security and Emerging Technology