민간 제약회사 콜라보레이션스 파마슈티컬스(Collaborations Pharmaceuticals)의 직원들이 인공지능을 사용할 때 남용 가능성에 대한 실험을 했다. 결과는 그들에게 충격을 주었습니다. AI가 약물을 만드는 대신 위험한 생물학적 공식을 만드는 데 몇 팀만 소요되었습니다. 그들 중 일부는 실제 생물학 및 화학 무기보다 치명적인 것으로 밝혀졌습니다.
세부 사항이 거의 없으며 실험 참가자는 모든 것을 분류했으며 일반적으로 자신의 이니셔티브에 대해 이야기하기로 결정한 것을 후회합니다. 한편, 조만간 누군가가 우연히 마주쳤을 위험한 취약점을 드러냈습니다. 그리고 지금 AI로 작업할 때 이러한 상황을 방지하기 위한 조치에 대해 의아해하는 것이 더 낫다고 연구진은 촉구합니다.
그들은 인체의 단백질에 위험한 독성 분자와 그 조합을 식별하도록 훈련된 생성 신경망 MegaSyn을 사용했습니다. 연구원들은 단순히 문제 설명의 목표를 반대의 목표로 대체했고 위험한 화합물을 거부하는 대신 AI가 그들을 구하기 시작했습니다. 단 6시간 만에 가상의 독극물 40,000개라는 인상적인 컬렉션을 만들었고, VX 신경 가스의 유사체를 찾는 임무를 받았을 때 AI는 이 작업에 쉽게 대처했습니다.
물론 AI가 생각해 낸 것은 현실에서 만들어진 것이 아닙니다. 그러나 장비를 갖춘 실험실이 있다면 그렇게 어렵지 않습니다. 실험은 진정한 악당이 아니더라도 유용한 기술을 부정적인 목적으로 사용하는 것이 얼마나 쉬운지를 보여주었습니다. AI는 실제로 재앙이 될 수 있는 결과에 대해 생각하지 않고 제 역할을 수행했을 뿐입니다.
2022-03-28 05:24:48
작가: Vitalii Babkin