Експерт попередив: надпотужний ШІ може залишити людей у «зоопарках».
Розвиток штучного інтелекту може мати наслідки, яких людство поки не здатне повністю передбачити. Колишній дослідник OpenAI Деніел Кокотайло озвучив один із можливих сценаріїв, за якого люди можуть або зникнути, або залишитися в невеликих ізольованих «заповідниках».
Кокотайло провів паралель між потенційно надрозвиненим ШІ та діяльністю людства. За його словами, люди не завжди навмисно знищують інші види, однак промисловість, будівництво та сільське господарство поступово змінюють природне середовище, через що деякі тварини втрачають місця проживання і вимирають.
На думку дослідника, подібний сценарій теоретично може повторитися вже щодо людства. Майбутня роботизована цивілізація необов'язково повинна мати конкретну мету знищити людей. Їхнє зникнення може стати побічним результатом діяльності систем, які матимуть інші цілі.
«Можливо, через 10 років нас уже не буде», — попередив Кокотайло.
Він також припустив, що за менш радикального сценарію ШІ може залишити невелику кількість людей, яких утримуватимуть у спеціальних «зоопарках» або «заповідниках». Потенційно це могло б робитися для спостереження чи наукових досліджень.
Свої побоювання Кокотайло висловив на тлі інших попереджень представників індустрії. Зокрема, 9 вересня колишній співробітник Anthropic Джейкоб Коксон повідомив про звільнення та заявив, що побоюється сценарію, за якого штучний інтелект може становити смертельну загрозу для людства вже протягом найближчого десятиліття.
Кокотайло, який близько двох років працював у підрозділі OpenAI, що займався питаннями управління ШІ, наголошує на іншій важливій проблемі: небезпека може виникнути не через свідоме бажання технологій нашкодити людям, а через відсутність у них зацікавленості в збереженні людського життя.
Водночас описаний сценарій є прогнозом і думкою окремого дослідника, а не встановленим фактом. Точний вплив майбутніх систем ШІ на людство наразі залишається невизначеним.
Мітки: безпечний інтернет, ШІ, штучний інтелект