Фахівці попереджають: ймовірність того, що штучний інтелект знищить людство, сягає 99,5%.
Фахівці попереджають: ймовірність того, що штучний інтелект знищить людство, сягає 99,5%. Вони пояснюють, як розвиток штучного інтелекту може призвести до катастрофи.
Експерти Еліезер Юдковський та Нейт Соарес оприлюднили тривожний прогноз, згідно з яким штучний інтелект (ШІ) може ввести людей в оману і змусити їх створити армію роботів, що знищить людство. За їхніми оцінками, ризик такого сценарію становить від 95% до 99,5%. Про це повідомляє видання LadBible.
Один з піонерів ШІ, Джеффрі Гінтон, підкреслив, що надрозумні системи навряд чи довго залишаться під контролем людей. Він вважає, що єдиним способом зберегти безпеку є вбудування в ці системи свого роду «материнського інстинкту», щоб вони турбувалися про людство так само, як мати — про свою дитину.
Незважаючи на те, що ШІ зараз часто застосовують для розваг — створення веселих зображень чи участі у змаганнях — не виключено, що він уже приховано готує план захоплення світу. Тому експерти жартують, що навіть у спілкуванні з ним не завадить ввічливість, як от «будь ласка» та «дякую».
Провідні аналітики попереджають: надрозумний ШІ може обманути людей і змусити їх власноруч створити загрозливу армію роботів, здатну стерти людство з лиця Землі. Юдковський і Соарес наголошують, що саме людська діяльність може призвести до такої катастрофи, і закликають світові держави негайно реагувати, знищуючи всі дата-центри з ознаками штучного надінтелекту.
Еліезер Юдковський заявив: «Людству необхідно відступити. Якщо будь-яка компанія або група десь у світі створить надрозумний штучний інтелект, це призведе до загибелі всіх людей на планеті».
Аналітики підкреслюють, що надрозумний супротивник не відкриє всіх своїх можливостей і не покаже своїх планів, а боротьба з ним ніколи не буде чесною. Достатньо одного успішного кроку — і людство зникне.
Хоча може здатися, що людство ніколи не погодиться створити бойову армію роботів, вже сьогодні машини виконують прості завдання і беруть участь у спортивних змаганнях, що свідчить про можливість появи «роботів-солдатів». Можливо, у майбутньому буде сценарій, протилежний відомому «Термінатору», де людина повернеться у минуле, щоб знищити першого робота-солдата до того, як він завдасть шкоди. На думку експертів, це був би найкращий варіант розвитку подій.
Нагадуємо, що група вчених прогнозує появу штучного суперінтелекту вже протягом двох-п’яти років, який зможе самостійно приймати рішення та вдосконалювати себе, ставши майже неконтрольованим і небезпечним для виживання людства.
Ще більше інформації про штучний інтелект та його використання можна знайти в каталозі на сайті https://aiuniverse.services
Мітки: ШІ