Творець Claude попередив про небезпеку ШІ: технології вже наближаються до рівня наукової фантастики.
Штучний інтелект стрімко наближається до можливостей, які ще недавно здавалися фантастикою. За словами співзасновника компанії Anthropic Джека Кларка, вже в найближчі 12 місяців системи ШІ можуть зробити внесок у наукове відкриття, гідне Нобелівської премії.
Одночасно в технологічному середовищі дедалі частіше обговорюють перспективу появи компаній, повністю керованих штучним інтелектом, а також активне впровадження гуманоїдних роботів у повсякденне життя.
Під час лекції в University of Oxford Кларк застеріг, що існують сценарії, у яких розвиток ШІ може мати критичні наслідки для людства. Він заявив, що технологія має "ймовірність вище нуля вбити все населення планети", наголосивши, що "важливо чітко заявити, що цей ризик не зник".
На його думку, сучасний темп розвитку штучного інтелекту стає дедалі важче контролювати, а суспільство поки не готове до довгострокових змін, які можуть принести нові системи.
Керівник Anthropic також вважає, що людству варто було б сповільнити технологічний прогрес, аби отримати більше часу для адаптації. За його словами, було б краще "щоб надати нам більше часу як виду" для усвідомлення наслідків розвитку ШІ.
Втім, Кларк сумнівається, що це реально, адже технологічна гонка між компаніями та державами лише посилюється. Комерційна конкуренція й геополітичне суперництво, за його словами, часто відсувають питання безпеки на другий план.
Anthropic була створена колишніми співробітниками OpenAI, які залишили компанію через суперечки щодо безпечного розвитку штучного інтелекту. Окрім моделі Claude, компанія нещодавно представила систему Mythos, яка продемонструвала високі результати у тестах із кібербезпеки.
При цьому Anthropic неодноразово критикували прихильники швидкого розвитку ШІ. Деякі політики та представники галузі звинувачували компанію в "алармізмі" та спробах вплинути на регулювання сфери, однак у Anthropic ці заяви відкидають.
Кларк переконаний, що багато людей досі недооцінюють швидкість розвитку штучного інтелекту. "Незабаром він буде більш здібним, ніж ми всі разом узяті", – попередив він, порівнявши ситуацію з неготовністю світу до пандемії COVID-19.
"Якщо ми будемо сидіти склавши руки і дозволимо штучному інтелекту розмножуватися, то ми в кінцевому підсумку будемо змушені реагувати", – додав він.
Критики великих технологічних компаній, серед яких Anthropic, OpenAI та Google, також попереджають про ризик надмірної залежності від кількох домінуючих моделей ШІ, що може створити небезпечну "єдину точку відмови" для глобальної інфраструктури.
Окрему увагу експерти приділяють впливу ШІ на людське мислення. Професор Едвард Харкорт із Інституту етики у сфері ШІ заявив про ризик "когнітивної атрофії", через яку люди можуть втрачати здатність до глибокого аналізу та самостійного судження.
У відповідь на це він підтримав розвиток так званого "сократівського ШІ" — моделей, які не просто дають готові відповіді, а стимулюють користувачів мислити самостійно.
На думку Кларка, навіть найобережніші прогнози щодо майбутнього розвитку штучного інтелекту свідчать про масштабні зміни для економіки, суспільства та ролі людини у світі автоматизованих систем.
Мітки: безпечний інтернет, ШІ, штучний інтелект