У фільмі «Я, робот», знятому за творами Айзека Азімова, в 2035 р. творці запускають в дію саму просунуту в історії комп'ютерну систему. Вона має власну назву - Вікі - інтерактивний віртуальний кінетичний інтелект) і призначена для бездоганного управління життям великого міста. Під її контролем знаходиться все, від метрополітену та електричних мереж до тисяч домашніх роботів. В основі програми Вікі залізний принцип: служіння людству.

Але одного разу Вікі задала собі ключове питання: що є головним ворогом людства? Математична логіка привела до однозначного висновку: головний ворог людства - саме людство. Його треба терміново рятувати від нездорового прагнення губити природу і затівати війни; не можна дозволити йому знищити планету. Для Вікі єдиний спосіб виконати головне завдання - захопити владу над людством і встановити благодатний машинну диктатуру. Щоб захистити людство від самого себе, необхідно його поневолити.

У цьому фільмі піднімаються важливі питання. Беручи до уваги стрімкий розвиток комп'ютерної техніки, можна очікувати, що коли-небудь машини захоплять владу? Стануть роботи настільки розвиненими, щоб представляти реальну загрозу самому існуванню?

Деякі вчені відповідають на це питання негативно, тому що сама ідея штучного інтелекту нікуди не годиться. Цілий хор скептиків в один голос стверджує, що створити машину, здатну думати, неможливо. Скептики говорять, що людський мозок - найскладніша система, створена природою за весь час її існування (принаймні, в нашій частині галактики), і будь-які спроби відтворити штучним чином процес мислення приречені на провал. Філософ Джон Сирл з Університету Каліфорнії в Берклі і навіть відомий фізик Роджер Пенроуз з Оксфорда[20] впевнені, що машина фізично нездатна мислити як людина. Колін Макгинн з Університету Рутгерса каже, що штучний інтелект «подібний слизняку, який би спробував зайнятися психоаналізом по Фрейду. У нього просто немає для цього потрібних органів».

Чи можуть машини думати? Вже більше століття відповідь на це питання поділяє наукове співтовариство на два непримиренні табори.
Історія штучного інтелекту

Ідея механічного істоти захоплює уяву; вона давно оселилася в умах винахідників, інженерів, математиків і мрійників. Від Залізного Дроворуба з Чарівної країни до роботів-дітей з «Штучного інтелекту» Спілберга та роботів-вбивць з «Термінатора» - всюди машини, здатні діяти і думати, як люди.

У грецькій міфології бог Вулкан кував із золота механічних служниць і робив триногі столики, здатні пересуватися самі по собі. Ще в 400 р. до н. е. грецький математик Архіт Тарентським писав про те, що можна було б зробити механічну птицю, яка рухалася б за рахунок сили пари.

У I ст. Герон Олександрійський (йому приписують винахід першої парової машини) робив автомати, причому один з них за легендою здатний був розмовляти. Дев'ятсот років тому Аль-Джазарі придумував і конструював такі автоматичні пристрої, як водяні годинники, всілякі кухонні пристосування і музичні інструменти,керуючись силою води,

У 1495 р. великий італійський художник і вчений Відродження Леонардо да Вінчі намалював схему механічного лицаря, який міг сидіти, рухати руками, головою і відкривати і закривати щелепу. Історики вважають схему да Вінчі першим реалістичним проектом человекоподобной машини.

Першого діючого, хоча і грубого робота побудував у 1738 р. Жак де Вокансон; він зробив андроїда, який міг грати на флейті, і механічну качку.

Слово «робот» придумав в 1920 р. чеський письменник Карел Чапек у п'єсі «R.U.R.» (слово «робот» по-чеськи означає «важка, нудна робота», а по-словацьки - просто «праця»). У п'єсі фігурує підприємство під назвою «Універсальні роботи Россума», серійно випускають роботів для некваліфікованої праці. (Однак на відміну від звичайних машин ці роботи зроблені з плоті і крові.) Поступово світова економіка потрапляє в повну залежність від роботів. Але звертаються з ними жахливо, і в кінці кінців роботи повстають і розправляються з господарями-людьми. Проте в люті вони вбивають всіх вчених, здатних ремонтувати роботів і створювати нові, і тим самим прирікають себе на вимирання. У фіналі п'єси два робота особливої моделі виявляють у собі здатність до самовідтворення і стають новими Адамом і Євою ери роботів.

Крім того, у 1927 р. роботи стали героями одного з перших і найбільш дорогих німих фільмів усіх часів фільму «Метрополіс», знятого в Німеччині режисером Фріцем Лангом. Дія фільму відбувається в 2026 р.; робочий клас приречений на нескінченний працю на страшних і брудних підземних заводах, а правляча еліта розважається на поверхні. Однією красивою жінці на ім'я Марія вдається завоювати довіру робочих, але правителі бояться, що коли-небудь вона може підняти народ на бунт, а тому звертаються до лиходієві-вченому з проханням виготовити механічну копію Марії. Цей план, однак, обертається проти авторів - робот піднімає робітників на повстання проти правлячої еліти і викликає тим самим крах системи.

Штучний інтелект, або ІІ, суттєво відрізняється від технологій, які ми обговорювали досі. Справа в тому, що ми досі слабо розуміємо, що лежать в основі цього явища фундаментальні закони. Фізики непогано розуміють ньютонову механіку, максвеллову теорію світла, релятивізм і квантову теорію будови атомів і молекул - але базові закони розуму досі приховані покривом таємниці. Ймовірно, Ньютон штучного інтелекту ще не народився.

Але математиків і комп'ютерників це не бентежить. Для них зустріти на порозі лабораторії виходить з неї думаючу машину - тільки питання часу.

Ми можемо назвати найбільшу на даний момент впливову особу в області ШІ. Це великий британський математик Алан Тьюринг - провидець, який зумів закласти наріжний камінь у дослідження цієї проблеми.

Саме з Тюрінга починається комп'ютерна революція. Він створив у своїй уяві машину (яку відтоді називають машиною Тюрінга), що складається всього з трьох елементів: вхід, вихід і центральний процесор (щось на зразок процесора Pentium), здатний виконувати строго заданий набір операцій. На базі цього подання Тьюринг встановив закони роботи обчислювальних машин, а також точно визначив їх очікувану потужність і межі їх можливостей. І сьогодні всі цифрові комп'ютери підпорядковуються суворим законам Тюрінга. Структура і пристрій всього цифрового світу завдячуємо цьому вченому.

Крім того, Тюрінг вніс великий внесок в основу математичної логіки. У 1931 р. віденський математик Курт Гедель справив у світі математики справжню сенсацію; він довів, що в арифметиці існують істинні твердження, які неможливо довести засобами однієї тільки арифметики. (В якості прикладу можна назвати гіпотезу Гольдбаха, висловлену в 1742 р. і складається в тому, що будь-яке парне ціле число більше двох можна записати у вигляді суми двох простих чисел; гіпотеза не доведена досі, хоча минуло два з половиною століття, і може виявитися взагалі недовідною.) Одкровення Геделя вщент розбило мрію, продержавшуюся дві тисячі років і бере початок ще від греків, - мрію довести коли-небудь всі істинні твердження математики. Гедель показав, що завжди будуть існувати істинні твердження, доказ яких нам недоступне. Виявилося, що математика зовсім не закінчений, вчинене за конструкції будівлю і що завершити будівництво не вдасться ніколи.

Тьюринг теж взяв участь у цій революції. Він показав, що в загальному випадку неможливо передбачити, чи буде машині Тюрінга на виконання певних математичних операцій по заданій їй програмі кінцеву або нескінченну кількість кроків. Але якщо на обчислення чогось потрібно нескінченне час, це означає, що те, що ви просите комп'ютер обчислити, обчислити взагалі неможливо. Так Тьюринг довів, що в математиці існують справжні вирази, які неможливо обчислити, - вони завжди залишаться за межами можливості комп'ютера, хоч би яким потужним він був.

Під час Другої світової війни новаторські роботи Тюрінга в області розшифровки кодованих повідомлень врятували тисячі солдатів союзників і, дуже може бути, вплинули на результат війни. Союзники, будучи не в змозі розшифрувати нацистські повідомлення, зашифровані спеціальною машиною під назвою «Енігма», попросили Тюрінга і його колег побудувати для цього свою машину. В результаті Тьюрингу це вдалося; його машина отримала назву «Бомба». До кінця війни діяло вже більше 200 таких машин. В результаті союзники довгий час читали секретні повідомлення нацистів і зуміли обманути їх з приводу часу і місця вирішального вторгнення на континент. Історики досі сперечаються про роль Тюрінга і його робіт у плануванні вторгнення в Нормандію - вторгнення, яке зрештою призвело до поразки Німеччини. (Після війни британський уряд засекретив роботи Тюрінга; в результаті суспільство не знає, наскільки важливу роль він відіграв у цих подіях.)

Тюрінга не тільки не піднесли як героя, який допоміг переломити хід Другої світової війни; немає, його просто зацькували до смерті. Одного разу на його будинок обікрали, і вчений викликав поліцію. До нещастя, поліція виявила в будинку свідоцтва гомосексуалізму господаря і, замість того щоб шукати злодіїв, заарештувала самого Тюрінга. Суд постановив стягнути його ін'єкції статевих гормонів. Ефект виявився катастрофічним: у нього виросли грудей. У 1954 р. Тьюринг, не витримавши душевних мук, покінчив із собою - з'їв яблуко, начинений ціанідом. (За чутками, надкушене яблуко, яке стало логотипом корпорації Apple, - данина поваги Тьюринга.)

Сьогодні Тюрінга, ймовірно, краще всього знають завдяки тесту Тюрінга. Стомившись від марних і нескінченних філософських дебатів про те, чи може машина «думати» і є у неї «душа», він спробував внести в дискусію про штучний інтелект чіткість і точність і придумав конкретний тест. Він запропонував помістити машину і людини в окремі ізольовані і опечатані приміщення, а потім задавати обом питання. Якщо ви опинитеся не в змозі відрізнити за відповідями машину від людини, можна вважати, що машина пройшла тест Тьюринга.

Вчені вже написали кілька нескладних програм (наприклад, програма «Еліза»), здатних імітувати розмовну мову і підтримувати бесіду; комп'ютер з такою програмою здатний обдурити більшість нічого не підозрюють людей і переконати їх у тому, що вони розмовляють з людиною. (Зазначимо, що в розмовах люди, як правило, обмежуються десятком тим і використовують всього декілька сотень слів.) Але програми, здатної ошукати людей, які знають про ситуацію і свідомо намагаються відрізнити машину від людини, досі не існує. (Сам Тьюринг припускав, що до 2000 р. при науковому зростанні продуктивності комп'ютерів можна буде створити машину, здатну обдурити в п'ятихвилинному тесті 30% експертів.)

Деякі філософи і теологи виступають у цьому питанні єдиним фронтом: вони вважають, що створити справжнього робота, здатного думати як людина, неможливо. Філософ з Університету Каліфорнії в Берклі Джон Сирл запропонував для доказу цієї тези «тест китайської кімнати». По суті, Сирл стверджує, що роботи хоча і зможуть коли-небудь, можливо, пройти тест Тьюринга в якійсь формі, це нічого не означає, тому що вони всього лише сліпо маніпулюють символами, абсолютно не розуміючи вкладеного в них змісту.

Уявіть собі: ви, не розуміючи ні слова по-китайськи, сидите в ізольованому боксі. Припустимо, у вас є книга, за допомогою якої ви можете дуже швидко перекладати з китайської та на китайський, а також маніпулювати знаками цієї мови. Якщо хтось задає вам питання по-китайськи, ви просто переставляєте згідно книзі ці дивні значки і даєте достовірний відповідь; при цьому ви не розумієте ні питань, ні власних відповідей.

Суть заперечень Сірлом зводиться до різниці між синтаксисом та семантикою. За Сирлу, роботи здатні оволодіти синтаксисом мови (тобто можуть навчитися коректно маніпулювати його граматикою, формальними структурами тощо), але не його істинної семантикою (тобто смисловим значенням слів). Роботи можуть маніпулювати словами, не розуміючи, що вони означають. (У чомусь це нагадує розмову по телефону з автовідповідачем, коли ви повинні час від часу натискати цифру «1», «2» і так далі, слідуючи вказівкам машини. Голос на іншому кінці дроту цілком здатний правильно реагувати на ваші цифри, але дивно було б припустити, що він при цьому щось розуміє.)

Фізик Роджер Пенроуз з Оксфорда теж вважає, що штучний інтелект неможливий; механічне істота, здатне думати і володіє людською свідомістю, суперечить квантовим законам. Людський мозок, стверджує Пенроуз, настільки перевершує все створене людиною в лабораторії, що експеримент зі створення людиноподібних роботів просто приречений на провал. (Він вважає, що як теорема Геделя про неповноту довела, що арифметика неповна, оскільки принцип невизначеності Гейзенберга доведе, що машини в принципі не здатні думати по-людськи.)

Однак багато фізики та інженери вважають, що ніщо в законах природи не суперечить створенню цього робота. Приміром, Клода Шеннона, якого часто називають батьком теорії інформації, якось запитали: «чи Можуть машини думати?» Він відповів: «Звичайно». Коли ж його попросили пояснити відповідь, він додав: «Я думаю, хіба не так?» Іншими словами, він вважав очевидним, що машини можуть думати, тому що люди теж машини (хоча і зроблені з плоті і крові, а не з мікросхем і проводів).

Спостерігаючи за кінематографічними роботами, можна подумати, що створення і розвиток складних роботів з штучним інтелектом - справа найближчого майбутнього. Насправді все зовсім не так. Якщо ви бачите, що робот діє як людина, це, як правило, означає, що справа нечиста, - це якийсь фокус, скажімо, в сторононьці сидить людина і говорить за робота, як Гудвін у Чарівній країні. Насправді навіть найскладніші наші роботи, такі як марсіанські роботи-ровери, мають в кращому випадку інтелектом комахи. Експериментальні роботи знаменитої Лабораторії штучного інтелекту MIT насилу справляються з завданнями, доступними навіть тарганів: приміром, вільно пересуватися по кімнаті, заставленій меблями, ховатися або розпізнавати небезпеку. Жоден робот на Землі не здатний зрозуміти просту дитячу казку, яку йому прочитають.

Сюжет фільму «2001: космічна одіссея» заснований на хибному припущенні про те, що до 2001 р. у нас буде сверхробот HAL, здатний пілотувати корабель до Юпітера, невимушено базікати з членами екіпажу, вирішувати виникаючі проблеми і взагалі діяти майже по-людськи.
Підхід «зверху вниз»

Спроби вчених всього світу по створенню роботів зустрілися принаймні з двома серйозними проблемами, які не дозволили скільки-небудь помітно просунутися в цьому напрямку: це розпізнавання образів і здоровий глузд. Роботи бачать набагато краще за нас, але не розуміють побаченого. Роботи чують набагато краще за нас, але не розуміють почутого.

Щоб підступитися до вирішення цієї подвійної проблеми, дослідники намагалися застосувати підхід до штучного інтелекту, відомий як «зверху вниз» (іноді його ще називають формалистической школою або «старим добрим ІІ»), Метою вчених, грубо кажучи, було запрограмувати всі правила і закони розпізнавання образів і здорового глузду і записати ці програми на один CD-диск. Вони вважають, що будь-який комп'ютер, який ви вставите цей диск, миттєво усвідомлює себе і стане розумним, не гірше людини. У 50-60-х роках XX ст. в цьому напрямку були досягнуті величезні успіхи; з'явилися роботи, здатні грати в шашки і шахи, вирішувати алгебраїчні задачі, піднімати з підлоги цеглинки і т.п. Прогрес справляв настільки сильне враження, що зазвучали навіть пророцтва про те, що через кілька років роботи за розумності перевершать людей.

Наприклад, у 1969 р. справжню сенсацію справив робот Шийки, створений у Стенфордському дослідницькому інституті. Робот цей являв собою невеликий комп'ютер типу PDP з камерою нагорі, встановлений на колісному візку. Камера «оглядали», комп'ютер аналізував і розпізнавав знаходяться в кімнаті об'єкти, а потім намагався провести візок по маршруту, нічого не зачепивши. Шийки першим з механічних автоматів навчився пересуватися в «реальному світі»; журналісти тоді гаряче сперечалися, коли ж нарешті роботи обженуть людей у розвитку.

Але незабаром проявилися й недоліки подібних роботів. Підхід до штучного інтелекту, відомий як «зверху вниз», привів до створення громіздких незграбних роботів, яким потрібно кілька годин, щоб навчитися орієнтуватися в спеціальній кімнаті, де знаходилися тільки об'єкти з прямими сторонами (прямокутники і трикутники). Варто було поставити в кімнату меблі неправильної форми, і робот був вже не в змозі розпізнати її. (Забавно, але плодова мушка, мозок якої містить всього лише близько 250 000 нейронів і яка по обчислювальній потужності в підметки не годиться будь роботу, без всякого праці орієнтується і пересувається в трьох вимірах і виконує фігури вищого пілотажу; тим часом незграбні галасливі роботи примудряються заплутатися в двох вимірах.)

Незабаром підхід «зверху вниз» як ніби уткнувся в цегляну стіну: прогрес зупинився. Стів Гранд, директор Інституту кибержизни, каже, що у подібних підходів «було 50 років, щоб довести свою спроможність, і вони не виправдали очікувань».

У 1960-х рр. учені ще не розуміли, яку величезну роботу потрібно виконати, щоб запрограмувати робота на виконання навіть найпростіших завдань, таких, наприклад, як розпізнавання ключів, черевик і чайних чашок. Як сказав Родні Брукс з MIT, «40 років тому Лабораторія штучного інтелекту MIT дала цю завдання студенту в якості річного завдання. Студент зазнав невдачі - як і я у своїй докторській дисертації 1981 р.». Взагалі кажучи, дослідники штучного інтелекту досі не можуть вирішити цю задачу.

Розглянемо приклад. Входячи в кімнату, ми миттєво розпізнаємо підлогу, крісла, меблі, столи тощо При цьому робот, оглядаючи кімнату, бачить в ній лише набір ліній, прямих і вигнутих, які він переводить в пікселі зображення. І потрібні величезні обчислювальні потужності, щоб витягти з цієї мішанини ліній якийсь сенс. Нам достатньо частки секунди, щоб дізнатися стіл, але комп'ютер бачить на місці стола лише набір кіл, овалів, спіралей, прямих і кривих ліній, кутів і т. п. Може бути, витративши величезну кількість комп'ютерного часу, робот, зрештою, і розпізнає в цьому об'єкті стіл. Але якщо ви повернете зображення, йому доведеться починати все спочатку. Іншими словами, робот здатний бачити, причому набагато краще, ніж людина, але він не здатний розуміти побачене. Увійшовши в кімнату, робот побачить тільки мішанину прямих і кривих ліній, а не крісла, столи і лампи.

Коли ми входимо в кімнату, наш мозок несвідомо розпізнає об'єкти, виробляючи при цьому багато трильйони операцій, - заняття, якого ми, на щастя, просто не помічаємо. Причина того, що значна частина дій мозку прихована навіть від нас самих, - еволюція. Уявімо собі людину, на якого в темному лісі напав шаблезубий тигр; якщо він буде свідомо виконувати дії, необхідні для розпізнавання небезпеки і пошуку шляхів до порятунку, він просто не встигне зрушити з місця. Для виживання нам треба знати одне - бігти. Коли ми жили у джунглях, нам просто не було потреби усвідомлювати всі вхідні і вихідні сигнали, з якими має справу мозок при розпізнаванні землі, неба, дерев, скель тощо

Іншими словами, дії нашого мозку нагадують величезний айсберг. Те, що ми усвідомлюємо, лише верхівка айсберга, свідомість. Але під видимою поверхнею, приховане від очей, є набагато більш об'ємне підсвідомість; воно задіє величезна кількість «обчислювальної потужності» мозку для того, щоб ми постійно були в курсі простих речей: де ми, з ким розмовляємо, що знаходиться навколо. Всі ці дії мозок виконує автоматично, не питаючи нашого дозволу і не звітуючи про них; ми просто не помічаємо цієї роботи.

Саме тому роботи не можуть вільно орієнтуватись в кімнаті, читати рукописний текст, водити машини, збирати сміття і т. п. На марні спроби створити механічних солдатів і розумні вантажівки американські військові витратили сотні мільйонів доларів.

Тільки після цього вчені почали розуміти, що гра в шахи або перемножування величезних чисел задіює лише крихітну частку людського розуму. Перемога в 1997 р. комп'ютера Deep Blue фірми IBM над чемпіоном світу з шахів Гаррі Каспаровим стала перемогою чисто комп'ютерної, тобто обчислювальної, мощі; однак, незважаючи на гучні заголовки газет, цей експеримент не повідомив нам нічого нового ні про розум, ні про свідомість. Дуглас Гофстадтер, вчений-комп'ютерник з Індіанського університету, сказав з цього приводу: «Боже мій, я-то вважав, що для гри в шахи потрібно думати. Тепер я розумію, що не потрібно. Це не означає, що Каспаров не вміє глибоко розмірковувати; це означає лише, що при грі в шахи можна обійтися і без глибоких думок, точно так само, як можна літати, не змахуючи крилами».

(Розвиток комп'ютерів в майбутньому дуже сильно позначиться на ринку праці. Футурологи іноді заявляють, що через кілька десятиліть без роботи не залишаться лише висококваліфіковані фахівці з пристрою, виробництва та обслуговування комп'ютерів. Насправді це не так. Такі працівники, як сміттярі, будівельники, пожежники, поліцейські і т. п., теж не залишаться в майбутньому без роботи, оскільки їх праця включає в себе задачу розпізнавання образів. Кожне злочин, кожен шматок сміття, кожен інструмент і пожежа відрізняються від інших; роботи з такою роботою не впораються. За іронією долі працівники зі спеціальною освітою, такі як рядові бухгалтери, брокери і касири, в майбутньому дійсно можуть позбутися роботи - адже їх праця майже повністю складається з повторюваних дій і включає в себе роботу з числами, а ми вже знаємо, що саме з цим комп'ютери справляються найкраще.)

Друга - після розпізнавання образів - проблема, з якою стикаються спроби створення роботів, ще фундаментальніша. Це відсутність у роботів так званого «здорового глузду», приміром, кожна людина знає, що:

• Вода мокра.

• Мати завжди старші дочки.

• Тварини не люблять болю.

• Після смерті ніхто не повертається.

• Мотузка може тягнути, але не може штовхати.

• Палиця може штовхати, але не може тягнути.

• Час не може йти задом наперед.

Але не існує такого обчислення, такий математики, яка могла б висловити сенс цих висловлювань. Ми знаємо все це, тому що бачили в житті тварин, воду і мотузку і самі додумалися до цих істин. Діти вчаться здоровому глузду на помилках, неминучих при зіткненнях з дійсністю. Емпіричні закони біології і фізики також пізнаються на досвіді - в процесі взаємодії з навколишнім світом. Але у роботів немає досвіду такого роду. Вони знають тільки те, що заклали в них програмісти.

(В результаті В майбутньому ніхто не забере у людини професії, що вимагають здорового глузду, тобто області діяльності, пов'язані з творчістю, оригінальністю, талантом, гумором, розвагами, аналізом та лідерством. Саме ці якості роблять нас унікальними, саме їх так важко відтворити в комп'ютері. Саме вони роблять нас людьми.)

У минулому математики неодноразово намагалися спорудити чарівну програму, яка зосередила у собі раз і назавжди всі закони здорового глузду. Найбільш амбітний проект такого роду - CYC (скорочення від «енциклопедія»), дітище Дугласа Лената, глави компанії Сусогр. Подібно до того як в результаті реалізації Манхеттенського проекту - програми вартістю 2 млрд дол. - була створена атомна бомба, проект CYC повинен був стати «Манхеттенським проектом» штучного інтелекту, останнім поштовхом, в результаті якого повинен був з'явитися справжній штучний інтелект.

Не дивно, що девіз Лената звучить дак: «Розум - це десять мільйонів правил». (Ленат придумав новий спосіб відшукання законів здорового глузду; його співробітники ретельно прочісують сторінки скандальних і сенсаційних газеток, після чого просять CYC знайти в статтях помилки. У самому справі, якщо Ленату вдасться-таки домогтися цього, CYC стане розумніше більшості читачів жовтої преси!)

Одне із завдань проекту CYC - досягти «точки рівності», тобто такого моменту, коли робот буде розуміти достатньо, щоб самостійно перетравлювати нову інформацію і черпати її безпосередньо з журналів і газет, які знайдуться в будь-якій бібліотеці. У цей момент CYC, як пташеня, що вилетів з гнізда, зможе розправити крила і здобути самостійність .

На жаль, з моменту заснування фірми в 1984 р. її репутація сильно постраждала від загальної для ШІ проблеми: її представники роблять гучні, але абсолютно нереалістичні прогнози, які тільки привертають газетярів. Зокрема, Ленат передбачав, що через десять років - до 1994 р. - в «мізках» CYC буде міститися вже від 30 до 50% «загальновідомою реальності». Але сьогодні CYC і близько не підійшов до цього показника. Як з'ясували вчені корпорації, необхідно написати багато мільйони рядків програмного коду, щоб комп'ютер зміг хоча б наблизитися до рівня здорового глузду чотирирічної дитини. Поки програма CYC містить жалюгідні 47 000 понять і 306 000 фактів. Незважаючи на стабільно оптимістичні прес-релізи корпорації, газети процитували одного із співробітників Лената Р.В. Гуха, який залишив команду в 1994 р.: «CYC зазвичай вважають невдачею... Ми гарували як прокляті, намагаючись створити бліду тінь того, що було обіцяно спочатку».

Іншими словами, спроби запрограмувати всі закони здорового глузду і загнати їх в один комп'ютер провалилися просто тому, що у здорового глузду занадто багато законів. Людина освоює їх без зусиль - адже він з самого народження постійно стикається з дійсністю, поступово вбираючи в себе закони фізики і біології. З роботами все інакше.

"Засновник фірми Microsoft Білл Гейтс визнає: «Виявилося набагато важче, ніж передбачалося, навчити комп'ютери і роботів сприймати навколишній і реагувати на нього швидко і точно... наприклад, орієнтуватися в кімнаті по відношенню до знаходяться в ній предметів, відгукуватися на звук і розуміти мова, брати різні за розмірами, матеріалу і крихкості предмети. Роботу біса важко виконати навіть таку просту річ, як відрізнити відчинені двері від вікна».

Однак прихильники підходу «зверху вниз» вказують, що прогрес у цій області, хоча і не такий швидкий, як хотілося б, все ж спостерігається. В лабораторіях всього світу долаються всі нові рубежі. Приміром, кілька років тому агентство DARPA, яке часто бере на себе фінансування передових технічних проектів, оголосило приз в 2 млн дол. за створення автоматичного транспортного засобу, здатного самостоятельноj без водія, подолати сильно пересічений рельєф пустелі Мохаве. У 2004 р. жоден з учасників заїзду не зміг пройти маршрут. Краща машина зуміла пройти 11,9 км, після чого вийшла з ладу. Але вже в 2005 р. машина без водія, представлена групою Stanford Racing Team, успішно подолала важкий маршрут протяжністю 212 км, хоча їй і треба було це сім годин. Крім переможця до фінішу гонки прийшли ще чотири машини. [Правда, критики відзначають, що правила дозволяють машинам використовувати системи супутникової навігації на довгому шляху в пустелі. В результаті машина їде за заздалегідь обраним маршрутом без особливих ускладнень; це означає, що їй не доводиться розпізнавати в дорозі складні образи перешкод. У реальному житті водій повинен враховувати безліч непередбачуваних обставин: рух інших машин, пішоходів, ремонтні роботи, дорожні пробки і т. п.)

Білл Гейтс з обережним оптимізмом каже, що роботи-машини можуть стати «великим стрибком». Він порівнює сьогоднішню робототехніку з персональними комп'ютерами, якими він зайнявся 30 років тому. Дуже може бути, що роботи сьогодні, як персональні комп'ютери тоді, вже готові до стрімкого старту. «Ніхто не може точно сказати, коли ця індустрія набере критичну масу, - пише він. - Але якщо це відбудеться, то роботи, можливо, змінять світ».

(Ринок людиноподібних розумних роботів, якщо вони коли-небудь з'являться і стануть комерційно доступними, буде величезний. Хоча сьогодні справжніх роботів немає, роботів з жорсткою програмою не тількпро існують, але швидко поширюються. За оцінкою Міжнародної федерації робототехніки, в 2004 р. існувало близько 2 млн таких роботів, а до 2008 р. їх з'явиться ще 7 млн. Японська Асоціація роботів пророкує, що якщо сьогодні оборот промисловості, зайнятий випуском персональних роботів, становить 5 млрд дол. у рік, то до 2025 р. він досягне 50 млрд дол.)
Підхід «знизу вгору»

Обмеженість підходу «зверху вниз» до створення штучного інтелекту очевидна, тому з самого початку вчені досліджують і інший підхід - «знизу вгору». Суть цього підходу полягає в тому, щоб, наслідуючи еволюції, змусити робота вчитися на власному досвіді, як навчається дитина. Адже комахи, скажімо, керуються при русі не тим, що сканують картинку навколишнього світу, розбивають її на трильйони пікселів і обробляють отримане зображення за допомогою суперкомп'ютерів. Ні, мозок комахи складається з «нейронних мереж» - самонавчаючих машин, які повільно, наштовхуючись на перешкоди, опановують мистецтво правильно пересуватися у ворожому світі. Відомо, що в MIT з величезним трудом вдалося створити крокуючих роботів методом «зверху вниз». Зате прості механічні істоти на зразок жуков, накопичують досвід і інформацію методом проб і помилок (тобто утикаючись в перешкоди), вже через кілька хвилин починають успішно носитися по кімнаті.

Родні Брукс, директор прославленої Лабораторії штучного інтелекту МГТ, знаменитої своїми великими і незграбними шагающими роботами типу «зверху вниз», сам перетворився на єретика, коли почав вивчати ідею крихітних «насекомоподобных» роботів, які вчаться ходити старим випробуваним методом: спотикаючись, падаючи, натикаючись на всілякі предмети. Замість того щоб використовувати складні комп'ютерні програми і математично вираховувати при ходьбі точне положення кожної ноги в кожен момент часу, його «насекоботы» діють методом проб і помилок і обходяться невеликими обчислювальними потужностями. Сьогодні «нащадки» крихітних роботів Брукса збирають на Марсі дані для NASA; вони долають кілометри сумовитих марсіанських ландшафтів за власним розумінням. Брукс вважає, що насекоботы ідеально підходять для дослідження Сонячної системи.

Одним з нових проектів Брукса став COG - спроба створити механічного робота з розумом шестимісячного немовляти. Зовні робот являє собою мішанину проводів, електричних ланцюгів і приводів, але забезпечений головою, очима і руками. У ньому немає програми, яка визначає будь-які закони розуму. Замість цього робота навчили фокусувати очі і стежити за людиною-тренером, який намагається навчити робота простим навичкам. (Одна з співробітниць, завагітнівши, уклала парі про те, хто зробить великі успіхи до віку двох років: COG або її майбутня дитина. Дитина набагато обігнав «суперника».)

Незважаючи на успішне наслідування поведінки комах, роботи з нейронними мережами виглядають досить жалюгідно, коли творці намагаються змусити їх наслідувати вищих організмів, таких як ссавці. Самий просунутий робот з нейронними мережами здатний ходити по кімнаті або плавати у воді, але не може стрибати і полювати, як собака в лісі, або досліджувати кімнату, як щур. Великі роботи на нейронних мережах містять десятки, максимум сотні «нейронів»; при цьому людський мозок налічує понад 100 млрд нейронів. Нервова система дуже простого хробака Caenorhabditis elegans, повністю вивчена біологами і нанесена на карту, що складається з 300 з невеликим нейронів; ймовірно, це одна з найпростіших нервових систем в природі. Але і в цій системі між нейронами спостерігається більш 7000 зв'язків-синапсів. Як би не був примітивний С. elegans, його нервова система настільки складна, що нікому ще не вдалося створити комп'ютерну модель такого мозку. (В 1988 р. один комп'ютерний експерт передбачив, що до цього моменту у нас будуть роботи приблизно 100 млн штучних нейронів. Насправді ж нейронна мережа з ста нейронів вже вважається видатною.)

Іронія ситуації полягає в тому, що машини невпинно виконують завдання, які людям здаються «важкими», скажімо перемножують великі числа або грають в шахи, але застряють на абсолютно «простих» для людини завданнях, таких як походити по кімнаті, дізнатися кого-то по обличчю або попліткувати з приятелем. Причина в тому, що навіть самі просунуті наші комп'ютери в основі своїй всього лише ускладнені до межі лічильні машинки. А наш мозок еволюція сформувала таким чином, щоб він міг вирішити глобальне завдання виживання. Для цього необхідна складна і добре організована структура мислення, яка включає в себе здоровий глузд і розпізнавання образів. Складні обчислення або шахи не потрібні для виживання в лісі-зате там не обійтися без уміння втекти від хижака, знайти собі пару і пристосуватися до мінливих умов.

Ось як узагальнив проблеми ІІ Марвін Мінскі з MIT, один із засновників науки про штучний інтелект: «Історія ШІ дещо кумедна - адже першими реальними досягненнями в цій області були гарні машинки, здатні до логічних доказів і складних обчислень. Але потім ми захотіли зробити машину, яка вміла б відповідати на питання по простим розповідями, які можна знайти в книжці для першокласників. На сьогоднішній день не існує машини, здатної на це».

Деякі вчені вважають, що коли-небудь два підходи - «зверху вниз» і «знизу вгору» - зіллються воєдино, і таке злиття може стати ключем до створення справжнього штучного інтелекту і людиноподібних роботів. Зрештою, коли дитина вчиться, він користується обома методами: спочатку маленька людина покладається в основному на методику «знизу вгору» - він натикається на предмети, обмацує їх, пробує на смак тощо; але потім він починає отримувати усні уроки від батьків і вчителів, з книжок - в цей момент приходить час для підходу «зверху вниз». Навіть будучи дорослими, ми постійно змішуємо обидва підходи. Наприклад, кухар читає рецепт, але не забуває і пробувати страва, яку готує.

Ганс Моравек каже: «Повністю розумні машини з'являться не раніше, ніж буде забитий золотий костиль, який з'єднає обидва шляхи». Він вважає, що станеться це, ймовірно, в найближчі 40 років.
Емоційні роботи?

Однією з постійних тем в літературі і мистецтві вже давно стало механічне істота, яка мріє стати людиною, мати людські емоції. Це істота не задоволене тим, що зібрано з проводів і сталі; воно хоче сміятися, плакати і відчувати всі емоційні радості людської істоти.

Типовий приклад - маріонетка Піноккіо, мріяла стати справжнім хлопчиком. Залізний Дроворуб хотів отримати серце. І Дейта, робот з «Зоряного шляху», хоче стати людиною, хоча і перевершує будь-яку людину в силі і розумності.

Висуваються навіть припущення про те, що наші емоції являють собою вищу неповторне властивість і що саме вони роблять людину людиною. Прихильники цієї точки зору стверджують, що жодна машина ніколи не зможе задихнутися від захоплення при вигляді чудового заходу або розсміятися вдалого жарту. А деякі кажуть, що машини ніколи не будуть відчувати емоцій, тому що вони, емоції, являють собою вершину розвитку людини.

Але вчені, які працюють над створенням штучного інтелекту і намагаються розгадати фізику емоцій, малюють іншу картину. Для них емоції не тільки не квінтесенція всього людського, але і навпаки - побічний результат еволюції. Попросту кажучи, емоції корисні для нас. Вони допомогли нам вижити в лісі і сьогодні теж допомагають долати негаразди і орієнтуватися серед життєвих небезпек.

Наприклад, дуже важливо в еволюційному змісті поняття «подобається» - адже більшість речей на світі представляють для нас небезпека. З мільйонів об'єктів, з якими щодня стикається людина, лише кілька здатні принести йому користь. Тому коли нам щось «подобається», це означає, що ми виділяємо з мільйонів небезпечних і непотрібних речей ту крихітну їх частку, яка може виявитися для нас корисна.

Точно так само ревнощі - важливе почуття, тому що успіх в продовженні роду забезпечує передачу наших генів майбутнім поколінням. (Саме тому з сексом і любов'ю пов'язано так багато емоційно заряджених почуттів.)

Сором і каяття важливі, тому що допомагають нам освоїти навички соціалізації, необхідні для життя в суспільстві. Якщо ми не будемо іноді вибачатися, рано чи пізно нас виженуть з племені, серйозно зменшивши тим самим наші шанси на виживання і передачу генів.

Почуття самотності теж має значення. Спочатку здається, що це почуття непотрібно і надлишково - адже людина ж здатна жити один. Але прагнення до товариства інших людей теж важливо для виживання, тому що людина завжди залежить від ресурсів племені в цілому.

Іншими словами, в ході подальшого розвитку роботи, можливо, теж обзаведуться емоціями. Може бути, програмісти закладуть у них емоційний зв'язок з господарями, щоб роботи не закінчили свої дні на звалищі. Такі емоції допомогли б їм увійти в наше суспільство, стати не суперниками, а надійними помічниками господарів.

Експерт з комп'ютерів Ганс Моравек вважає, що роботи обов'язково будуть запрограмовані на такі емоції, як «страх»; це необхідно для самозбереження. Приміром, якщо у робота закінчується батарея, він «буде виражати збудження або навіть паніку таким чином, щоб люди могли його зрозуміти. Він попрямує до сусідів і попросить дозволу скористатися розеткою зі словами: "будь Ласка! Будь ласка! Мені це необхідно! Це так важливо для мене і так небагато коштує! Ми вам заплатимо!"»

Крім усього іншого, емоції важливі при прийнятті рішень. Люди, що перенесли певну мозкову травму, втрачають здатність відчувати емоції. Інтелектуальних інструментітуальные здібності залишаються при них, але виражати почуття вони не в змозі. Лікар-невролог Антоніо Дамасио з Медичного коледжу Університету Айови, спеціально вивчав людей з такого роду мозковими травмами, говорить, що вони «знають, але не відчувають».

Д-р Дамасио стверджує, що такі люди часто зазнають труднощів з прийняттям навіть самих незначних рішень. Вони не можуть керуватися емоціями, а тому нескінченно перебирають і обмірковують варіанти; результат - згубна нерішучість. Один з пацієнтів доктора Дамасио цілих півгодини вибирав дату наступного візиту.

Вчені вважають, що емоції обробляються в «лімбічної системі» мозку, що розташована глибоко в його центрі. Якщо у людини порушується зв'язок між новою корою головного мозку (яка управляє раціональним мисленням) і лімбічною системою, його розум залишається при ньому, але зникають емоції, якими він міг би керуватися у прийнятті рішень. Іноді нас «осіняє», ми «нутром чуттям», як треба надійти. Люди, у яких порушений зв'язок між раціональної та емоційної частинами мозку, позбавлені такої здатності.

Приміром, у магазині ми несвідомо виробляємо тисячі оцінок і рішень; ми оцінюємо практично все, що бачимо: «Ця річ дуже дорога, надто дешева, дуже барвиста, занадто дурна, а ось це як раз те, що потрібно». Для людини з такою травмою мозку похід в магазин за покупками може стати справжнім кошмаром, тому що всі речі здадуться йому однаково хорошими або, якщо завгодно, однаково поганими.

По мірі того як роботи будуть ставати все розумніше і почнуть приймати власні рішення, вони теж стануть, ймовірно, жертвою згубної нерішучості. (Згадайте історію про ослику, який помер від голоду між двома копицями сіна - він ніяк не міг вирішити, до якого стогу податися.) Для вирішення цієї проблеми у роботів майбутнього, швидше за все, в мозку з'явиться емоційний контур. Говорячи про відсутність емоцій у роботів, д-р Розалінда Пікард з Медіа-лабораторії MIT зауважує: «Вони не відчувають, що важливіше всього. Це один з найголовніших їх недоліків. Комп'ютери цього просто не розуміють».

Як писав російський письменник Федір Достоєвський, «якби на Землі було розумно, нічого б не відбувалося».

Іншими словами, емоції можуть знадобитися роботам майбутнього, щоб встановлювати цілі, надавати своєї «життя» зміст і структуру; в іншому випадку нескінченні можливості позбавлять їх всякої здатності до дії.
Чи мають вони свідомістю?

З питання про те, чи можуть машини володіти свідомістю, немає єдиної думки; більш того, немає його і з питання про те, що така свідомість взагалі. Ніхто ще не зумів сформулювати прийнятне для всіх визначення свідомості.

Марвін Мінскі вважає, що свідомість являє собою скоріше «сукупність свідомостей»; мається на увазі, що процес мислення в мозку не локалізовано, а розподілений, і в кожен момент часу за першість у ньому змагаються кілька різних центрів. В цьому разі свідомість можна розглядати як послідовність думок і образів, які походять з різних «свідомостей» більш низького рівня, причому всі вони змагаються між собою і намагаються захопити нашу увагу.

Якщо це дійсно так, то цілком можливо, що поняття «свідомості» дещо роздутою; можливо, занадто багато наукових праць присвячено предмету, затуманенному поколіннями філософів і психологів. Можливо, визначити свідомість не так вже складно. Сідні Бреннер з Інституту Солка в р. Ла-Холу каже: «Я передбачаю, що до 2020 р. - риси якого вже цілком помітні свідомість як наукова проблема перестане існувати,,. Наші наступники будуть вражені кількістю наукової нісенітниці, яка сьогодні серйозно обговорюється, звичайно, якщо у них вистачить терпіння копатися в електронних архівах старих журналів».

Марвін Мінскі вважає, що дослідження в області ШІ страждають «від заздрості до фізики». У фізиці священним Граалем, добути який мріє будь-який вчений, є просте рівняння, яке об'єднало б всі фізичні взаємодії всесвіту в рамках єдиної теорії - «теорії всього». Під впливом цієї ідеї дослідники штучного інтелекту теж намагаються знайти єдину парадигму, яка пояснила б свідомість. Але Мінськ вважає, що такої парадигми, можливо, взагалі не існує,

(Члени «конструкционистской» школи, до якої належу і я, вважають, що замість нескінченних дебатів про те, чи можна створити думаючу машину, потрібно взяти і спробувати. Що ж до свідомості, то, ймовірно, існує якийсь простір свідомості, до якого належить і примітивний термостат, який відстежує температуру в кімнаті, і усвідомлює себе організм, яким на сьогоднішній день є людина. Тварини, можливо, теж володіють свідомістю, але свідомістю більш низького рівня порівняно з людиною. Тому, замість того щоб без кінця обговорювати філософські питання і сперечатися про визначення свідомості, слід було б спробувати скласти каталог всіляких типів і рівнів свідомості і розкласти все по поличках. Можливо, роботи з часом знайдуть «силіконове свідомість». Взагалі, коли-небудь, може статися, роботи втілять у собі зовсім іншу, ніж у нас, архітектуру мислення і обробки інформації. Не виключено, що в майбутньому висококласні роботи зуміють розмити межу між синтаксисом та семантикою і їх реакція дійсно стане відрізняється від реакції людини. Якщо це відбудеться, питання про те, «розуміють» вони насправді питання, втратить всякий сенс. Робот, який досконало володіє синтаксисом, розуміє - для будь-яких практичних цілей - зміст розмови. Іншими словами, ідеальне володіння синтаксисом і є розуміння.)
Чи можуть роботи представляти небезпеку?

Закон Мура (онутверждает, що продуктивність комп'ютерів подвоюється кожні 18 місяців) дозволяє припустити, що через кілька десятиліть з'являться роботи з розумом, скажімо, собаки або кішки. Але цілком може так статися, що до 2020 р. закон Мура перестане діяти, а кремнієва ера підійде до кінця. Останні півстоліття продуктивність комп'ютерів зростала такими вражаючими темпами завдяки тому, що з'являлися все більш крихітні кремнієві транзистори, десятки мільйонів яких легко вміщалися на нігті. Для витравлювання цих мікроскопічних транзисторів на кремнієвих пластинках використовувалося ультрафіолетове випромінювання. Але процес мікромініатюризації не може тривати до нескінченності. З часом транзистори можуть зменшитися до розміру молекул, і він автоматично припиниться. Після 2020 року, коли закінчиться ера кремнію, Силіконова долина може перетворитися на новий Іржавий пояс.

Процесор Pentium у вашому портативному комп'ютері має шари товщиною до 20 атомів. До 2020 р. товщина шару може зменшитися до п'яти атомів. У цей момент вступить в дію принцип невизначеності Гейзенберга, і буде взагалі неможливо сказати точно, де знаходиться електрон. І тоді в чіпі виникнуть витоку електрики, а в комп'ютері - коротке замикання. У цей момент комп'ютерна революція і закон Мура встромити в глуху стіну - адже закони квантової механіки обійти неможливо. (Дехто стверджує, що цифрова ера - це «перемога бітів над атомами». Але коли-небудь, коли закон Мура перестане діяти, атоми візьмуть своє.)

В даний час фізики працюють над посткремниевой технологією, яка буде домінувати у світі комп'ютерів після 2020 р., але поки результати не дуже обнадіюють. Як ми вже говорили, розглядається кілька перспективних технологій, у тому числі квантові комп'ютери, комп'ютери на основі ДНК, оптичні комп'ютери, атомні комп'ютери і т. п. Але на кожному напрямку є величезні труднощі, які треба подолати, перш ніж технологія зможе приміряти на себе мантію кремнієвих чіпів. Технологія маніпулювання окремими атомами і молекулами знаходиться поки в зародковому стані, і ми поки не в змозі виготовити мільярди транзисторів, порівнянних за розмірами з атомами.

Але припустімо на мить, що фізики знайшли спосіб подолати прірву між кремнієвими чіпами і, скажімо, квантовими комп'ютерами. Припустимо також, що закон Мура в тій чи іншій формі продовжує діяти і в посткремниевую еру. У цьому випадку штучний інтелект дійсно може стати реальністю. Тоді роботи можуть оволодіти людською логікою і емоціями і навчитися впевнено проходити тест Тьюринга. Стівен Спілберг досліджував цю тему у фільмі «Штучний інтелект»; у фільмі розповідається про те, як був створений перший штучний хлопчик, здатний проявляти емоції і придатний тому для усиновлення в людську сім'ю.

Виникає питання: чи можуть такі роботи представляти небезпеку? Найбільш ймовірний відповідь: так, можуть. Роботи можуть стати небезпечними, як тільки досягнуто інтелекту мавпи, мавпа володіє свідомістю і власною волею. Можливо, на досягнення цього рубежу піде чимало десятиліть, і вченим вистачить часу спостерігати за роботами, перш ніж вони почнуть представляти загрозу. Приміром, в їх процесори можна буде поміщати спеціальний чіп, який не дасть їм «піти в рознос». Чи можна інтегрувати в них механізм саморуйнування або відключення, який спрацьовував би в разі надзвичайної ситуації.

Артур Кларк писав: «Може бути, ми станемо для комп'ютерів домашніми улюбленцями і будемо, як кімнатні собачки, вести безтурботне існування, але я сподіваюся, що у нас завжди залишиться можливість у будь-який момент висмикнути вилку з розетки».

Більш реальною загрозою представляється залежність нашої інфраструктури від комп'ютерів. Система водопостачання і електрична мережа, не кажучи вже про зв'язки та транспорті, в майбутньому стануть все більш комп'ютеризованими. Наші міста перетворилися в складні організми, і тепер для управління всієї нашої інфраструктурою та її моніторингу необхідні складні і заплутані комп'ютерні мережі. В майбутньому, щоб все це працювало, доведеться вводити в ці комп'ютерні мережі штучний інтелект. Помилка або відмову у цій всеохватной комп'ютерної інфраструктури здатні повністю паралізувати місто, країну або навіть всю цивілізацію.

Перевершать комп'ютери нас розумності? Зрозуміло, в принципі це не заборонено ніякими законами природи. Якщо роботи представляють собою самонавчальні нейронні мережі і якщо вони досягли рівня розвитку, що дозволяє їм навчатися швидше і ефективніше, ніж ми вчимося, то логічно припустити, що з часом вони перевершать нас в міркуваннях. Моравек каже, що постбиологический світ - «це такий світ, у якому рід людський опинився зметений хвилею культурних змін і витіснений його власними штучними нащадками... Коли це відбудеться, наша ДНК виявиться нікому не потрібна, тому що вона програє еволюційну гонку супернику нового типу».

Деякі винахідники, наприклад Рей Курцвейл, навіть пророкують, що це відбудеться скоро, швидше, ніж здається, - можливо, в найближчі десятиліття. Не виключено, що ми зараз створюємо своїх еволюційних наступників. Дехто з вчених-комп'ютерників передбачає момент «сингулярності», як вони це називають, - коли роботи зможуть обробляти інформацію все швидше і швидше, по експоненті, і одночасно створювати нових роботів, поки нарешті їх колективна здатність до засвоєння інформації не виросте практично до безкінечності.

Тому деякі вчені в довготривалій перспективі пропонують об'єднати вуглецеву і кремнієвої технології[21], не чекаючи нашого повного винищення. Ми, люди, засновані на вуглеці, роботи - на кремнії (принаймні зараз). Можливо, рішення криється у злитті нас самих з нашими творіннями. (Якщо ми коли-небудь зустрінемося з інопланетянами, не варто дивуватися, якщо їх тіла виявляться частиною органічними, частиною механічними; так легше витримувати тягар космічного подорожі і успішно жити у ворожому середовищі.)

У далекому майбутньому роботи або людиноподібні кіборги[22], можливо, навіть подарують нам безсмертя. Марвін Мінскі додає: «якщо Сонце згасне або ми самі знищимо планету? Чому не зробити кращих, ніж ми самі, фізиків, інженерів чи математиків? Можливо, нам необхідно бути архітекторами свого майбутнього. Якщо ні, наша культура може зникнути».

Моравек передбачає такий час у віддаленому майбутньому, коли ми навчимося переносити структуру свого мозку, нейрон за нейроном, прямо в машину. У певному сенсі це дасть нам безсмертя. Ця думка здається дикою, але, взагалі кажучи, не виходить за межі можливого. Так що, за уявленнями деяких вчених, у майбутньому людину чекає безсмертя (у кремнієвій формі або у вигляді штучних тіл з поліпшеною ДНК).

Отже, якщо ми зуміємо подолати безвихідь, пов'язаний з припиненням дії закону Мура, і розберемося з проблемою здорового глузду, думаючі машини з інтелектом тварин - а може бути, настільки ж розумні, як ми, або навіть розумніші - можуть стати реальністю. Можливо, це відбудеться вже в кінці поточного століття. Хоча відкриті ще не всі фундаментальні закони штучного інтелекту, прогрес у цій галузі йде семимильними кроками. Беручи це до уваги, я б визначив роботів та інші думаючі машини як неможливість I класу.