Zuvor stand diese Funktion den Benutzern aufgrund der Gefahr des Missbrauchs der Technologie nicht zur Verfügung, aber nachdem die Arbeit der Filter zum Entfernen von Bildern mit sexuellen oder politischen Inhalten sowie Gewaltszenen verbessert wurde, entschied sich OpenAI, dies zu tun Tool öffentlich verfügbar - zumindest für diejenigen, die in den Kreis der Elite geraten sind, die zugelassen sind, mit dem neuronalen Netzwerk DALL-E zu arbeiten.
Die neue Funktion ermöglicht es Benutzern, Bilder auf verschiedene Arten zu bearbeiten. Sie können beispielsweise ein Foto einer beliebigen Person hochladen und die Gesichtszüge, Kleidung oder Frisur ändern. Zweifellos wird das Tool bei Künstlern, Fotografen und anderen Vertretern kreativer Berufe beliebt werden.
„Dank Sicherheitsverbesserungen ist DALL-E nun bereit, diese faszinierenden und wichtigen Funktionen zu unterstützen – und gleichzeitig das potenzielle Risiko von Deepfakes zu minimieren“, heißt es in einem Brief, den das OpenAI-Management an Kunden verschickt hat.
Die Entscheidung war Teil einer laufenden Diskussion zwischen KI-Entwicklern und Benutzern über einen möglichen Missbrauch der Technologie. Denken Sie daran, dass DALL-E ein Produkt der gemeinnützigen Organisation OpenAI ist, einem leistungsstarken neuronalen Netzwerk, das Bilder auf mündliche Anfrage hin generiert. Es befindet sich im Beta-Testmodus.
Bisher ist das Unternehmen eher zurückhaltend vorgegangen, aber in letzter Zeit haben Konkurrenten, die in diesen Dingen nicht so skrupellos sind, begonnen, OpenAI zu umgehen und Benutzer abzuwerben. Mit Stable Diffusion können Sie also bereits realistische gefälschte Bilder von Prominenten erstellen, schreibt Verge.
Jetzt hat OpenAI Filter in DALL-E implementiert, mit denen Sie die Gesichtsbearbeitungsfunktion in Fotos und Videos verwenden können, ohne gegen die Gesetze und Regeln des Anstands zu verstoßen. Die Nutzungsbedingungen des Programms verbieten das Hochladen von Bildern von Personen ohne deren Zustimmung, obwohl es fast unmöglich ist, diese Vertragsklausel im Rahmen des aktuellen Zugangsmodells in der Praxis durchzusetzen. Allerdings ist kein Filter perfekt, und es gibt viele Formen des Missbrauchs, die subtiler sind als direkte Pornografie ohne Zustimmung der abgebildeten Person.
Die künstliche Intelligenz DALLE-2 erstellt realistische Bilder aus einer Textbeschreibung, aber wie genau sie und ähnliche neuronale Netze zu dem Ergebnis kommen, ist größtenteils unbekannt. Anfang des Sommers stellten die OpenAI-Entwickler eine faszinierende Behauptung auf – dass ihr Modell eine eigene Geheimsprache erfunden habe, um über die abgebildeten Objekte zu sprechen.
2022-09-22 16:45:40
Autor: Vitalii Babkin