Funcionários da empresa farmacêutica privada Collaborations Pharmaceuticals realizaram um experimento sobre o potencial de abuso ao usar inteligência artificial. O resultado os chocou - foram necessárias apenas algumas equipes para que a IA começasse a criar fórmulas biológicas perigosas em vez de criar drogas. Alguns deles acabaram sendo mais mortais do que armas biológicas e químicas reais.
Há muito poucos detalhes, os participantes do experimento classificaram tudo e geralmente se arrependem de terem decidido falar sobre sua iniciativa. Por outro lado, eles revelaram uma vulnerabilidade perigosa que, mais cedo ou mais tarde, alguém teria tropeçado. E é melhor ficar intrigado com medidas para prevenir tais situações ao trabalhar com IA agora, os pesquisadores pedem.
Eles usaram a rede neural generativa MegaSyn, que é treinada para identificar moléculas tóxicas e suas combinações que são perigosas para as proteínas do corpo humano. Os pesquisadores simplesmente substituíram o objetivo na declaração do problema pelo oposto e, em vez de rejeitar compostos perigosos, a IA começou a salvá-los. Em apenas 6 horas de trabalho, ele criou uma coleção impressionante de 40.000 venenos hipotéticos e, quando foi encarregado de encontrar um análogo do gás nervoso VX, a IA lidou facilmente com essa tarefa.
Nada do que a IA criou, é claro, foi criado na realidade. No entanto, isso não é tão difícil se houver um laboratório equipado. O experimento mostrou como é fácil usar tecnologia útil para fins negativos sem precisar ser um verdadeiro vilão. A IA estava apenas fazendo seu trabalho sem pensar nas consequências, que na realidade podem ser catastróficas.
2022-03-28 05:24:48
Autor: Vitalii Babkin