Les employés de la société pharmaceutique privée Collaborations Pharmaceuticals ont mené une expérience sur le potentiel d'abus lors de l'utilisation de l'intelligence artificielle. Le résultat les a choqués - il n'a fallu que quelques équipes pour que l'IA commence à créer des formules biologiques dangereuses au lieu de créer des médicaments. Certaines d'entre elles se sont avérées plus meurtrières que de véritables armes biologiques et chimiques.
Il y a très peu de détails, les participants à l'expérience ont tout classé et regrettent généralement d'avoir décidé de parler de leur initiative. D'un autre côté, ils ont révélé une vulnérabilité dangereuse sur laquelle tôt ou tard quelqu'un aurait trébuché. Et il vaut mieux être intrigué par les mesures visant à prévenir de telles situations lorsque l'on travaille avec l'IA maintenant, insistent les chercheurs.
Ils ont utilisé le réseau neuronal génératif MegaSyn, qui est formé pour identifier les molécules toxiques et leurs combinaisons dangereuses pour les protéines du corps humain. Les chercheurs ont simplement remplacé l'objectif dans l'énoncé du problème par l'autre, et au lieu de rejeter les composés dangereux, l'IA a commencé à les sauver. En seulement 6 heures de travail, il a créé une impressionnante collection de 40 000 poisons hypothétiques, et lorsqu'il a été chargé de trouver un analogue du gaz neurotoxique VX, l'IA s'est facilement acquittée de cette tâche.
Bien sûr, rien de ce que l'IA a proposé n'a été créé dans la réalité. Cependant, ce n'est pas si difficile s'il y a un laboratoire équipé. L'expérience a montré à quel point il est facile d'utiliser une technologie utile à des fins négatives sans avoir à être un véritable méchant. L'IA faisait juste son travail sans penser aux conséquences, qui en réalité pourraient être catastrophiques.
2022-03-28 05:24:48
Auteur: Vitalii Babkin