OpenAIは、同社のAIチャットボット「ChatGPT」のユーザーがシステムのバグや脆弱性を発見した場合、最大で2万ドルを支払うという。同社はブログ記事で、AI製品の脆弱性を発見するプログラムを開始すると述べている。
脆弱性発見に関するより良い協力のために、OpenAIはプログラム参加者からの電話を集めるプラットフォームであるBugcrowd Incと提携している。
OpenAIは、「深刻度の低い」脆弱性については200ドルから、「深刻なバグについては」最高2万ドルまで支払うことを望んでいる。同社は、技術が持つ問題を発見するためには、透明性とユーザーとの協力が重要であると考え、プログラムの開始を決定したと述べています。
"この取り組みは、安全なAIを開発するという私たちの全体的な考え方の中で、自然な流れです。私たちは安全で信頼できる技術やサービスを作りたいので、皆さんに助けを求めたいと思います」と同社のブログには書かれています。
Bugcrowdのプラットフォームでは、報酬が与えられないセキュリティ問題が数多く指定されています。特に、不正行為によってボットから禁止情報を誘い出す、悪意のあるコードを書く、ユーザーがチャットボットに侮辱的な言葉を書かせるといった依頼に関連するChatGPTの依頼がこれにあたります。
2023-04-12 07:55:10
著者: Vitalii Babkin
ソース URL