"Довольно страшно": крестный отец ИИ предупреждает о его возможностях
Доктор Джеффри Хинтон, которого многие считают крестным отцом ИИ, уволился из компании Google, сообщает The New York Times .
Когда пионер искусственного интеллекта покинул Google, он выразил обеспокоенность по поводу потока поддельной информации, видео и изображений в Интернете, а также по поводу того, что ИИ может разрушить рынок труда. Хинтон сказал, что он покинул гиганта поисковых систем, чтобы открыто говорить об опасностях ИИ, и что он отчасти сожалеет о своем вкладе в эту область. Он был нанят Google десять лет назад для помощи в создании технологий искусственного интеллекта .
Джеффри Хинтона часто называют "крестным отцом ИИ". Защитив докторскую диссертацию по искусственному интеллекту в Эдинбурге в 1978 году, он пять лет проработал преподавателем на факультете компьютерных наук в Университете Карнеги-Меллона. Он также был научным сотрудником Канадского института перспективных исследований. Он провел три года с 1998 по 2001 год, создавая отдел вычислительной неврологии Гэтсби в Университетском колледже Лондона, а затем перешел в Университет Торонто, где сейчас является заслуженным профессором.
Согласно блогу Google Research , Хинтон внес свой вклад в разработку алгоритмов машинного обучения в Google. Его исследовательская группа в Торонто также добилась крупных прорывов в области глубокого обучения, которые произвели революцию в распознавании речи и классификации объектов. Его области исследований включают алгоритмы и теорию, машинный интеллект, обработку естественного языка и обработку речи.
Когда Хинтон объявил о своем уходе из Google в понедельник, он дал интервью, в котором он подробно рассказал о причинах своего решения и потенциальном вреде, который ИИ может нанести человечеству.
В своем интервью New York Times Хинтон сказал, что до прошлого года считал Google "надлежащим распорядителем" технологии. Однако, когда Microsoft начала добавлять чат-бота в свою поисковую систему Bing, компания забеспокоилась об ущербе, нанесенном ее поисковому бизнесу. Некоторые риски, связанные с чат-ботами на основе искусственного интеллекта, были "довольно пугающими", сказал он Би-би-си , предупредив, что они могут стать умнее людей и использоваться "плохими людьми".
Развивая свою точку зрения, он сказал: "Я пришел к выводу, что тот тип интеллекта, который мы развиваем, сильно отличается от того интеллекта, который у нас есть. Это как если бы у вас было 10 000 человек, и всякий раз, когда один человек чему-то учился, все автоматически это знали. Вот почему эти чат-боты могут знать гораздо больше, чем любой человек".
Хинтон сказал, что он частично сожалеет о своей работе в этой области, и что любому из нас трудно предотвратить использование ИИ злоумышленниками в преступных целях.
"Я утешаю себя обычным оправданием: если бы я этого не сделал, это сделал бы кто-то другой", — сказал он в интервью.
Хинтон добавил, что ушел со своей должности в Google, чтобы иметь возможность свободно говорить об опасностях ИИ.
"На самом деле я ушел, чтобы поговорить об опасностях ИИ, не задумываясь о том, как это влияет на Google. Google действовал очень ответственно", - написал Хинтон в Twitter.
По мнению Хинтона, эти системы в некотором роде затмевают человеческий интеллект из-за объема данных, которые они анализируют.
"Возможно, то, что происходит в этих системах, на самом деле намного лучше, чем то, что происходит в человеческом мозгу", — добавил он.
В то время как ИИ использовался для поддержки людей, быстрое распространение чат-ботов, таких как ChatGPT, может поставить рабочие места под угрозу. По словам Хинтона, ИИ "уберет рутинную работу", но "может убрать больше". Ученый также предупредил о потенциальном распространении дезинформации, созданной ИИ, утверждая, что обычный человек "больше не сможет знать, что является правдой".