I dipendenti dell'azienda farmaceutica privata Collaborations Pharmaceuticals hanno condotto un esperimento sul potenziale abuso quando si utilizza l'intelligenza artificiale. Il risultato li ha scioccati: sono bastate solo un paio di squadre all'IA per iniziare a creare formule biologiche pericolose invece di creare farmaci. Alcuni di loro si sono rivelati più letali delle vere armi biologiche e chimiche.
Ci sono pochissimi dettagli, i partecipanti all'esperimento hanno classificato tutto e generalmente si rammaricano di aver deciso di parlare della loro iniziativa. D'altra parte, hanno rivelato una pericolosa vulnerabilità in cui prima o poi qualcuno si sarebbe imbattuto. Ed è meglio essere perplessi dalle misure per prevenire tali situazioni quando si lavora con l'IA ora, esortano i ricercatori.
Hanno usato la rete neurale generativa MegaSyn, che è addestrata per identificare le molecole tossiche e le loro combinazioni pericolose per le proteine nel corpo umano. I ricercatori hanno semplicemente sostituito l'obiettivo nella dichiarazione del problema con quello opposto e, invece di rifiutare i composti pericolosi, l'IA ha iniziato a salvarli. In sole 6 ore di lavoro, ha creato un'impressionante collezione di 40.000 ipotetici veleni e quando è stato incaricato di trovare un analogo del gas nervino VX, l'IA ha affrontato facilmente questo compito.
Niente di ciò che l'IA ha inventato, ovviamente, è stato creato nella realtà. Tuttavia, questo non è così difficile se c'è un laboratorio attrezzato. L'esperimento ha mostrato quanto sia facile utilizzare la tecnologia utile per scopi negativi senza dover essere un vero cattivo. L'IA stava solo facendo il suo lavoro senza pensare alle conseguenze, che in realtà potrebbero essere catastrofiche.
2022-03-28 05:24:48
Autore: Vitalii Babkin