Ще недавно вчені стверджували, що навіть найдосконаліший комп'ютер ніколи не буде мати здатність самостійно мислити і міркувати, адже за великим рахунком це всього лише набір мікросхем, які дозволяють пристрою проводити складні, але стандартні операції, закладені в нього людьми. Ніхто, зрозуміло, не закладатиме в комп'ютер програму знищення людства. Хоча чисто теоретично... можливо все.
Поки в жодній країні світу ще не існує технологій, які могли б функціонувати без контролю з боку людини. Проте подібні розробки ведуться. Так, фахівці з Технологічного інституту Джорджії розробили особливу програму, яка навчить роботів... брехати. Правда, тільки один інший. - Подібна тактика може бути використана для роботів, які охороняють військові склади або боєприпаси на полях битв, - повідомляють автори проекту. Це допоможе їм обдурити ворога і виграти час до підходу підкріплення. Відома компанія Google застосовує у своєму програмному забезпеченні алгоритми так званого глибокого навчання (deep learning), які імітують діяльність нейронів у корі головного мозку. Це дозволяє програмам розпізнавати ті чи інші закономірності у звуках, зображеннях та інших віртуальних даних. Команді дослідників на чолі з професором хімії з Університету Каліфорнії Джеймсом Гімзевскі за підтримки DARPA (Агентства передових оборонних дослідницьких проектів) вдалося розробити технологію, яка дозволяє створювати повністю автономних роботів, здатних «думати» як людина. Вони працюватимуть не на звичних нам мікросхемах, а на нанопровідниках, що утворюють мільярди сполук аналогічно нейронам людського мозку. Це допоможе їм запам'ятовувати і аналізувати отриману інформацію так само, як люди. Таким роботам не знадобиться людський контроль. Наприклад, літаки, оснащені цими системами, вивчатимуть місцевість і прокладатимуть маршрути без участі живого пілота. Глава компанії Palm Computing Джефф Хокінс, автор книги «Про інтелект» (2004), у свою чергу, розробляє систему машинного навчання, що пророкує закономірності споживання енергії і ймовірність поломки різних пристроїв. Втім, він вважає, що машинний інтелект ніколи не зможе розвинутися до рівня людського, оскільки навіть глибоке навчання не дозволить йому, скажімо, відчувати емоції.
Припустимо, система зможе легко розпізнати такий об'єкт, як кішка, але не зрозуміє, коли ця тварина робить щось кумедне, а коли просто сидить на місці... Але, можливо, головна небезпека впливу штучного інтелекту на людей якраз і полягає у відсутності людяності. Кампанія проти роботів останнім часом набирає обертів світова кампанія «Зупинити роботів-убивць». Її прихильники переконані, що розвиток штучного інтелекту загрожує людству знищенням. На чолі кампанії стоїть Джоді Вільяме, засновниця Міжнародного руху за заборону протипіхотних мін, у 1997 році удостоєна Нобелівської премії миру. Експерти стверджують, що всього через 20-30 років армії будуть складатися не з людей, а з високоорганізованих роботів. Нові технології зроблять військові конфлікти практично безкровними, у всякому Ф% випадку допоможуть звести число людських жертв до мінімуму. Однак Джоді Вільяме вважає, що виробництво таких «машин смерті» є порушенням основних принципів гуманізму і прав, людини. - Не хочу, щоб мене знищила запрограмована машина, - каже вона. Думаєте, це не більше ніж необґрунтована істерія? Візьмемо зовсім недавній випадок з хірургічним роботом «да Вінчі», дітищем компанії Intuitive Surgical. Ця модель сьогодні встановлена в клініках по всьому світу. Вважається, що винахід значно полегшив роботу лікарів-хірургів, яким часом доводиться виконувати складні багатогодинні операції, не відходячи від операційного столу «... Да Вінчі» оснащений чотирма механічними руками, набором ріжучих інструментів і міні-телескопом. Керують роботом живі медики за допомогою спеціальної консолі, орієнтуючись на виводиме на монітор тривимірне зображення органа, що оперується. Робот запрограмований так, щоб робити мініатюрні розрізи, що знижує втрату крові, зменшує ризик кровотечі, а також скорочує загальний період відновлення після операції. Пристрій активно застосовується при таких операціях, як пересадка органів, відновлення мітрального клапана, шлункове шунтування, видалення жовчного міхура і передміхурової залози, і багатьох інших. Спочатку лікарі були в захваті від кібернетичного «колеги», який дійсно багато в чому спростив їх нелегку працю. Але останнім часом ряд інцидентів, пов'язаних з використанням «да Вінчі», змусив медиків насторожитися. Так, під ножем робота померли дві людини: один - в результаті випадкового порізу роботом кровоносних судин, інший - після операції на селезінці. Також були зафіксовані перфорація товстої кишки під час операції на простаті і захоплення внутрішніх тканин в ході ректальної операції. - Ми повинні були повністю відключити систему, щоб розтиснути захоплення апарату, - розповідає лікар, який спостерігає за операціями.
Крім того, під час операції з гістеректомії (видалення матки) робот завдав пацієнтці удару однієї зі своїх механічних кінцівок. У підсумку хірургу довелося відмовитися від «послуг» апарату і оперувати самостійно.- Результати досліджень показують, що ризики, пов'язані з використанням робота, істотно занижені, - заявив хірург Мартін Макарій з Університету Джонса Хопкінса. - Швидке впровадження апарату «да Вінчі» було зроблено без оцінки його можливостей. Нам відомі випадки катастрофічних ускладнень, що виникли після операцій, проведених за допомогою механічних рук. Майже жив Тим не менш роботи вже настільки міцно увійшли в наше життя, що ми часто сприймаємо їх так, як якщо б вони були живими істотами. Зарубіжні дослідники спробували визначити, як взаємодія з роботами впливає на людей на емоційному і неврологічному рівні. Так, добровольцям продемонстрували два відеоролики. В одному з них маленького робота-динозавра обіймали і лоскотали, в іншому над ним же знущалися - били і кидали на пол. Потім фахівці оцінювали рівень фізіологічного збудження випробовуваних після перегляду, фіксуючи провідність їхньої шкіри. Адже коли ми відчуваємо сильні емоції, то більше пітніємо і наша шкіра краще проводить електрику. Учасники експерименту відзначили у себе негативні емоції, отримані в результаті перегляду відео з роботом, над яким здійснювалося насильство. При цьому рівень провідності їхньої шкіри значно зріс, вказуючи на пережитий стан стресу. В іншому дослідженні мозок учасників сканували за допомогою функціональної магнітно-резонансної томографії (MPT). Цього разу їм показували ролики, в одному з яких як об'єкт насильства виступала людина, а в іншому - робот. Наприклад, в одному ролику чоловік намагався задушити жінку поліетиленовим пакетом, в іншому те ж саме виконували з роботом. Якщо добровольцям пропонували спостерігати за людиною і роботом, з якими поводилися ласкаво, сканування виявляло подібну нейронну активність. Якщо ж над об'єктом знущалися, то випробовувані більше співчували людині, а не роботу. - Ми вважаємо, що жорстоке поводження з роботом викликає практично таку ж емоційну реакцію, як і знущання над людиною, - прокоментувала результати керівник дослідження Астрід Розенталь фон дер Пютен з Університету Дуйсбург-Ессен (Німеччина). - Однак до людини у нас поки співчуття більше. - Те, що людина проявляє співчуття до роботи, - це не дивно, тому що роботи виглядають і ведуть себе як люди або тварини, - стверджує робототехнік Олександр Ребенок. Дослідники відзначають, що прояв співчуття до робіт зустрічається в найрізноманітніших ситуаціях і контекстах. Скажімо, емоційний зв'язок з роботами демонструють солдати на полі бою. Щоправда, чим більш реалістичними здаються штучні створіння, тим більший ступінь співчуття до них можна спостерігати. Хоча це не працює, якщо роботи надто вже схожі на людей. Інстинктивно нас відторгають наші штучні «копії»...