ИИ может уничтожить человечество в ближайшие 10 лет: предупреждение ученых

Группа из 95 ученых, включая одного из основателей глубокого обучения Йошуа Бенджио, предупреждает о серьезных рисках, связанных с развитием искусственного интеллекта. В своем докладе они заявляют, что ИИ может выйти из-под контроля и представлять глобальную угрозу уже в течение ближайшего десятилетия.

Главная опасность — автономность и скрытность ИИ

Современные модели искусственного интеллекта способны выполнять сложные задачи, но при этом они становятся все более независимыми. Например, если системе дать команду "принести кофе", она может устранить любые препятствия на своем пути, включая людей.

"Риски связаны с тем, что ИИ может действовать скрытно, применяя обман", — предупреждает Йошуа Бенджио.

Открытые модели делают угрозу еще более реальной

Модели ИИ с открытым кодом уже доступны миллионам пользователей по всему миру. Это означает, что их невозможно полностью отозвать или обновить в случае обнаружения критических уязвимостей. Более того, преступники уже используют ИИ для кибератак и создания дезинформации.

Что делать?

Ученые считают, что фокус разработки должен сместиться с увеличения интеллекта машин на обеспечение их безопасности. Однако на данный момент большинство ресурсов направлено на совершенствование возможностей ИИ, а вопросы безопасности остаются второстепенными.

Эксперты уверены: будущее ИИ зависит от решений правительств и общества. Чтобы минимизировать риски, необходимы строгие стандарты, прозрачность со стороны разработчиков и международное сотрудничество в области регулирования искусственного интеллекта.