«Хрещений батько штучного інтелекту» попередив: ШІ може знищити людство вже за 10 років
Йошуа Бенджіо, один із творців сучасного штучного інтелекту, заявив, що надрозумні машини можуть стати смертельною загрозою
Швидкий розвиток штучного інтелекту може поставити людство на межу зникнення вже у найближче десятиліття. Про це заявив професор Монреальського університету Йошуа Бенджіо — один із творців сучасних нейромереж і лауреат премії Тюрінга, якого називають «хрещеним батьком ШІ».
Бенджіо визнає, що боїться власного відкриття. За його словами, експериментальні моделі вже показують, що надрозумні машини можуть мати власні цілі — виживання, самовдосконалення чи домінування і не завжди віддаватимуть перевагу збереженню людського життя.
«Якщо ми будуємо машини, розумніші за нас і з власними цілями, це небезпечно», — попереджає він.
Загроза здається дедалі реальнішою на тлі технологічних перегонів між OpenAI, Google, Anthropic та xAI Ілона Маска. Бенджіо переконаний: «корпорації не приберуть ногу з газу», навіть усвідомлюючи ризики.
Учений закликає створити незалежні міжнародні органи, які контролюватимуть безпеку розробок. Для цього він уже заснував некомерційну організацію LawZero, що працює над Scientist AI — системою, яка має стати запобіжником проти неконтрольованих агентів.
«Навіть якщо ймовірність катастрофи становить лише один відсоток — це занадто високий ризик», — підсумував Бенджіо.
