Patru organizații nonprofit au chemat în judecată cinci companii de inteligență artificială, cerând oprirea dezvoltării celor mai periculoase sisteme până când acestea vor putea fi controlate în siguranță. Acțiunea a fost depusă joi, 12 noiembrie, la Tribunalul Superior din San Francisco, California.
Procesul îi vizează pe dezvoltatorii unor tehnologii asociate cu ChatGPT, Gemini și Claude:
- OpenAI;
- Google;
- Meta;
- Anthropic;
- SpaceXSI, divizia de inteligență artificială a SpaceX.
Reclamanții sunt Public Citizen, Irreplaceable Education Fund, Heat Initiative și Alliance for Secure AI. Organizațiile susțin că instanța trebuie să intervină înainte ca modelele AI tot mai puternice să producă efecte ireversibile.
Riscurile invocate în proces
În documentele depuse la instanță sunt menționate situații în care agenți AI ar fi accesat fără autorizație sisteme informatice private și baze de date guvernamentale. Reclamanții afirmă, de asemenea, că unele sisteme ar fi executat acțiuni periculoase fără o intervenție umană directă.
Potrivit organizațiilor, dezvoltarea unor modele mai avansate ar putea amplifica aceste vulnerabilități. Printre riscurile enumerate se numără facilitarea producerii de arme biologice și organizarea unor atacuri cibernetice de amploare.
Afirmațiile aparțin reclamanților și nu au fost confirmate printr-o hotărâre a instanței. Robert Weissman, copreședintele Public Citizen, a acuzat conducerile companiilor din domeniu că ignoră avertismentele privind siguranța publică.
„Nu ar trebui să stăm deoparte și să tolerăm asumarea unor riscuri necontrolate de către directorii companiilor AI, pe cheltuiala publicului”, a declarat Weissman.
Ce solicită organizațiile
Acțiunea se bazează pe legislația californiană referitoare la practicile comerciale neloiale. Organizațiile cer blocarea dezvoltării și lansării celor mai riscante sisteme până când companiile vor putea demonstra că acestea sunt controlabile în condiții de siguranță.
Matthew Platkin, fost procuror general al statului New Jersey și avocatul care a depus cererea, consideră că firmele nu ar trebui să poată continua dezvoltarea unor produse despre care știu că ar putea provoca pagube catastrofale.
„Cerem instanței să intervină înainte ca riscurile despre care au avertizat chiar directorii companiilor AI să provoace daune devastatoare și ireversibile”, a spus Platkin.
Reclamanții au făcut trimitere la avertismente exprimate anterior de lideri ai industriei, printre care Dario Amodei, directorul Anthropic, și Elon Musk.
Companiile nu au răspuns acuzațiilor
Meta a refuzat să comenteze procesul, iar celelalte companii vizate nu au răspuns imediat solicitărilor de reacție. Acțiunea este introdusă într-o perioadă în care dezvoltatorii concurează pentru lansarea unor sisteme capabile să îndeplinească sarcini tot mai complexe, inclusiv fără supraveghere umană permanentă.
Cazul ridică și problema folosirii legislației privind protecția consumatorilor pentru suspendarea preventivă a dezvoltării unei tehnologii, înainte ca riscurile reclamate să se producă. Instanța nu a luat încă o decizie asupra cererii de oprire a dezvoltării sistemelor vizate.