Предупреждения Оппенгеймера о ядерном оружии применимы к ИИ - аналитики

Ядерная бомба, созданная Джулиусом Робертом Оппенгеймером, изменила мир во время Второй мировой войны и с тех пор вселяет в него ужас. История Оппенгеймера, блестящего ученого, которого мучили дилеммы ядерной эры, теперь переживает возрождение, вдохновленное Голливудом, и в ней прослеживаются параллели с другой преобразующей технологией - искусственным интеллектом, считают аналитики Американского института предпринимательства.

Оппенгеймер и его коллеги создали атомную бомбу, потому что почти ничего не могло быть хуже победы нацистов во Второй мировой войне. Однако к 1950 году Оппенгеймер выступил против создания водородной бомбы, которая была на несколько порядков мощнее, чем самые ранние атомные бомбы, потому что он считал, что инструменты холодной войны стали более опасными, чем инструменты врага Америки. 

"Если быть честным, — предсказал он , — наиболее вероятным видением будущего является война, взрыв атомных бомб, смерть и конец большей части свободы".

Стремительные инновации в области искусственного интеллекта знаменуют собой еще одну технологическую революцию. В очередной раз ведущие ученые, инженеры и новаторы утверждают, что использовать эту технологию в соперничающем мире просто слишком опасно. В марте видные исследователи и технологи призвали ввести мораторий на разработку ИИ. В мае сотни экспертов писали , что ИИ представляет собой "риск уничтожения", сравнимый с ядерной войной. Джеффри Хинтон, человек столь же выдающийся в ИИ, как Оппенгеймер в теоретической физике, подал в отставку со своего поста в Google, чтобы предупредить о грядущем "экзистенциальном риске".