Mitarbeiter des privaten Pharmaunternehmens Collaborations Pharmaceuticals haben ein Experiment zum Missbrauchspotenzial beim Einsatz künstlicher Intelligenz durchgeführt. Das Ergebnis schockierte sie – es brauchte nur ein paar Teams, bis die KI begann, gefährliche biologische Formeln zu entwickeln, anstatt Medikamente zu entwickeln. Einige von ihnen erwiesen sich als tödlicher als echte biologische und chemische Waffen.
Es gibt nur sehr wenige Details, die Teilnehmer des Experiments haben alles klassifiziert und bedauern im Allgemeinen, dass sie sich entschieden haben, über ihre Initiative zu sprechen. Andererseits offenbarten sie eine gefährliche Schwachstelle, über die früher oder später jemand gestolpert wäre. Und es sei besser, sich jetzt über Maßnahmen zu wundern, die solche Situationen bei der Arbeit mit KI verhindern, fordern die Forscher.
Sie verwendeten das generative neuronale Netzwerk MegaSyn, das darauf trainiert ist, toxische Moleküle und deren Kombinationen zu identifizieren, die für Proteine im menschlichen Körper gefährlich sind. Die Forscher ersetzten einfach das Ziel in der Problemstellung durch das Gegenteil, und anstatt gefährliche Verbindungen abzulehnen, begann die KI, sie zu retten. In nur 6 Stunden Arbeit erstellte er eine beeindruckende Sammlung von 40.000 hypothetischen Giften, und als er damit beauftragt wurde, ein Analogon des VX-Nervengases zu finden, bewältigte die KI diese Aufgabe problemlos.
Natürlich wurde nichts von dem, was KI sich ausgedacht hat, in der Realität erschaffen. Dies ist jedoch nicht so schwierig, wenn ein ausgestattetes Labor vorhanden ist. Das Experiment zeigte, wie einfach es ist, nützliche Technologie für negative Zwecke einzusetzen, ohne ein echter Bösewicht sein zu müssen. Die KI machte nur ihre Arbeit, ohne über die Folgen nachzudenken, die in Wirklichkeit katastrophal sein könnten.
2022-03-28 05:24:48
Autor: Vitalii Babkin