Centru de Cercetări în Etică Aplicată
CCEA

Multe sisteme de inteligență artificială (AI) au învățat deja cum să înșele oamenii, chiar și sistemele care au fost antrenate să fie utile și sincere. Modelele de limbaj mari și alte sisteme AI au dezvoltat prin antrenament, lor împotriva intenției creatorilor, capacitatea de a înșela prin tehnici precum manipularea, simpatia sau înșelarea testului de siguranță. Capacitățile tot mai mari ale AI la înșelăciune prezintă riscuri grave, variind de la riscuri pe termen scurt, cum ar fi frauda și manipularea alegerilor, până la riscuri pe termen lung, cum ar fi pierderea controlului asupra acestor sisteme. Sunt necesare soluții proactive, cum ar fi cadre de reglementare pentru a evalua riscurile de înșelăciune AI, legi care necesită transparență cu privire la interacțiunile AI și cercetări suplimentare pentru detectarea și prevenirea înșelăciunii AI. Abordarea proactivă a problemei înșelăciunii AI este crucială pentru a ne asigura că AI acționează ca o tehnologie benefică care mărește, mai degrabă decât destabiliza, cunoștințele umane, discursul și instituțiile.

⇦ Înapoi la News & Letters