OpenAI pagará aos usuários de seu chat AI bot ChatGPT até $20.000 para identificar bugs e vulnerabilidades no sistema. A empresa disse em um post de blog que está lançando um programa para encontrar vulnerabilidades em seus produtos de IA.
Para melhor colaborar na detecção de vulnerabilidades, a OpenAI fez uma parceria com a Bugcrowd Inc, uma plataforma que coletará chamadas dos participantes do programa.
O OpenAI está disposto a pagar a partir de US$ 200 por vulnerabilidades de "baixa severidade" e até US$ 20.000 "por bugs sérios". A empresa disse que decidiu lançar o programa porque acredita que a transparência e a cooperação com os usuários são fundamentais para descobrir os problemas que a tecnologia pode ter.
"Esta iniciativa é uma parte natural de nossa idéia geral de desenvolver uma IA segura. Queremos criar tecnologias e serviços seguros e confiáveis, por isso gostaríamos de pedir ajuda a vocês", disse o blog da empresa.
Na plataforma Bugcrowd são especificados vários problemas de segurança, pelos quais nenhuma recompensa será dada. Em particular, estes incluem pedidos de ChatGPT relacionados a atrair informações proibidas do bot por trapacear, escrever código malicioso, ou pedidos nos quais o usuário força o chatbot a escrever insultos.
2023-04-12 07:55:10
Autor: Vitalii Babkin
URL da fonte