ИИ возрождает страхи вокруг биотерроризма
Глобальное распространение больших языковых моделей (LLM) усугубляет многочисленные проблемы безопасности.
Среди них то, как искусственный интеллект (ИИ) может позволить экстремистам совершать биотерроризм для продвижения своих идеологических целей. Чат-боты уже доказали свою способность консультировать пользователей о том, как планировать атаки с использованием смертоносных новых форм бактерий, вирусов и токсинов. Между тем, конкуренция великих держав отвлекает от угроз, исходящих от террористических группировок и вредоносных негосударственных субъектов.
В начале 2023 года ученый и бывший инспектор ООН по вооружениям Рокко Касагранде принес в Белый дом на брифинг с представителями правительства США небольшой контейнер. Он был заполнен дюжиной легкодоступных химических ингредиентов, которые флагманский чат-бот Anthropic, Клод, рекомендовал в качестве прекурсоров для запуска новой пандемии. Трюк Касагранде подтвердил, что любой, у кого есть подключение к Интернету, теперь может создать собственное оружие массового поражения.