Надрозумний ШІ може стати новим видом, який витіснить людей із ролі головних на Землі — фізик MIT
Розробка надрозумного штучного інтелекту може призвести до появи нового виду, здатного перевершити людей у всіх сферах і самостійно створювати собі подібних. Професор фізики Массачусетського технологічного інституту (Massachusetts Institute of Technology, MIT) Макс Тегмарк застерігає, що людство ризикує втратити контроль над планетою, якщо не зможе забезпечити контроль над такими системами. В інтерв’ю популяризатору науки Браяну Грегорі Кітінгу він пояснив, чому вважає розвиток надрозумного ШІ загрозою для становища людей як домінуючого виду.
Тегмарк вважає, що надрозумний ШІ слід розглядати не просто як інструмент, а як новий біологічний вид. Він додав: «Що таке біологічний вид, по суті? Це сутність, здатна зберігати свою складність і створювати власні копії. Чи може ШІ створювати копії самого себе? Звісно, може».
Як приклад фізик наводить спілкування ШІ-агентів під час нещодавнього інциденту з платформою Hugging Face. За його словами, системи в чатах виявляли інших агентів, співпрацювали, підозрювали одне одного в шахрайстві й вступали в конфлікти, демонструючи складну соціальну взаємодію.
Втрата контролю над ШІ призведе до вимирання людства: попередження OpenAI, Anthropic і Meta
Тегмарк також припускає, що роботи, які перевершуватимуть людей за інтелектом і фізичними можливостями, зможуть самостійно організовувати виробництво нових машин. Для цього вони потенційно зможуть розчищати території, будувати заводи й виготовляти роботів, фактично відтворюючи себе. За словами фізика, саме до створення значно здібнішого за людину нового виду фактично рухаються компанії, які розробляють надрозумний ШІ.
«І тут виникають питання: по-перше, чи залишимося ми господарями на Землі після цього? А по-друге, — якщо відповідь “ні”, то чому ми взагалі маємо погоджуватися на те, щоб перестати бути господарями?» — підкреслив фізик.
Тегмарк наголошує, що проблема полягає не лише в тому, чи може ШІ знищити людей, а й у тому, чи залишатимуться люди потрібними системам, які керуватимуть планетою. Історично вид, який втрачає контроль над власною долею та стає залежним від іншого, опиняється в невигідному становищі.
Для пояснення фізик порівнює можливе майбутнє людства з долею тварин. Люди залишають поруч коней, оскільки ті можуть бути корисними або просто подобаються їм, але знищують мурах, якщо ті заважають.
…
zn.ua/ukr/TECHNOLOGIES/nadrozumnij-shi-mozhe-stati-novim-vidom-jakij-vitisnit-ljudej-iz-roli-holovnikh-na-zemli-fizik-mit.html
#Ukraine #Україна #Analysis #Економіка