Исследователь по вопросам безопасности искусственного интеллекта Роман Ямболски предупредил о том, что быстрое развитие этой технологии может угрожать будущему человечества. По его словам, вероятность катастрофического сценария в течение следующих ста лет может достигать 99,9%. Ямболски основывает свое предупреждение на наблюдении, что все существующие системы ИИ не имеют достаточных гарантий безопасности, и считает, что будущие поколения этих технологий могут не решить тех же фундаментальных проблем. Таким образом, он присоединяется к списку экспертов, обеспокоенных долгосрочными рисками этой технологии. Ямболски опубликовал свою последнюю книгу под названием «Искусственный интеллект: непостижимый, непредсказуемый, неконтролируемый», в которой он объясняет основные риски ИИ, такие как трудности в прогнозировании его поведения или понимании причин его решений. В книге также рассматриваются вопросы о том, кто контролирует эту технологию, о непредвиденных последствиях ее использования, а также ведутся философские дискуссии о том, может ли ИИ обладать сознанием или личностью. С другой стороны, другие исследования дают менее строгие оценки. Совместное исследование Оксфордского и Боннского университетов, в котором приняли участие мнения более 2700 экспертов, показало, что вероятность вымирания человечества из-за искусственного интеллекта не превышает 5%. Исследователь Катя Грейс пояснила, что большинство экспертов признают наличие риска, но разногласия касаются его точного масштаба. С другой стороны, некоторые видные пионеры в этой области отвергают идею полного вымирания людей, соучредитель Google Эндрю Инг и исследователь Ян Лекун, которые считают, что некоторые преувеличенные предупреждения могут служить другим целям, не связанным с наукой. Кроме того, генеральный директор OpenAI Сэм Альтман вызвал широкие дискуссии, когда предупредил, что ИИ может уничтожить большое количество рабочих мест, которые он описал как не «настоящую работу», предсказывая кардинальные изменения в существующем «социальном контракте». В 2015 году Альтман заявил: «Скорее всего, искусственный интеллект приведет к концу света, но перед этим он создаст великие компании».
