OpenAI предлагает до $20 тысяч за обнаруженные уязвимости в ChatGPT
OpenAI, ведущая компания в области искусственного интеллекта, объявила о новой инициативе, направленной на повышение безопасности и надежности своего чат-бота ChatGPT. Компания заявила, что будет выплачивать пользователям до 20 000 долларов за обнаружение и сообщение об уязвимости и ошибках в системе.
Решение OpenAI запустить это приложение связано с убеждением, что прозрачность и сотрудничество с пользователями важны для выявления и решения любых потенциальных проблем с их технологией.
“Эта инициатива является естественной частью нашей всеобщей идеи разработки безопасного и передового ИИ. Мы хотим создавать безопасные и надежные технологии и сервисы, поэтому мы хотели бы обратиться к вам за помощью”, – говорится в сообщении OpenAI в блоге.
Награда будет варьироваться от 200 долларов за проблемы низкого уровня серьезности до 20000 долларов за исключительные находки. Компания также сотрудничает с Bugcrowd Inc, известной платформой для краудсорсингового тестирования безопасности, сбора отзывов от участников программы и улучшения сотрудничества в выявлении уязвимостей.
Однако OpenAI определила проблемы безопасности, которые не будут вознаграждаться, например попытки заставить чат-бота предоставить незаконную информацию путем обмана, написания вредоносного кода или заставить чат-бота писать образы. Эти исключения отражают приверженность OpenAI ответственной и нравственной разработке ИИ.