AI и шансът хората да изчезнат: Обоснованите страхове от "Терминатор" сценария

Технооптимистите често не забелязват дисонанса в двете си любими тези: AI е едновременно най-голямата технологична революция на нашето време, но и заедно с това нищо ново. Когато се изразяват опасения за бъдещето, те бързо се потушават с аргументи в сегашно време. AI не може да убие човечеството, защото ChatGPT все още прави базови грешки; но също така съвсем скоро всеки човек ще може да направи своя собствена видеоигра или филм само като го опише. Технооптимистите, с други думи, не са особени фенове на техноскептиците.

Този път обаче ще се наложи да има реален дебат. Изкуственият интелект (AI) не е като всяка друга технологична революция, защото това е първата технология, която може сама да взима решения и да се самоусъвършенства. Крайната цел е да бъде създаден изкуствен интелект с общи човешки способности (AGI), за който оптимистите твърдят, че ще реши най-големите проблеми, пред които е изправено човечеството, но някои от скептиците си задават един плашещ въпрос: какво, ако машините решат, че ние сме проблемът, който трябва да бъде решен? Какво, ако за една машина, по-умна от хората, не сме нещо повече от мравки?

Филми като "Терминатор" са превърнали този въпрос в клише и повечето технологични академици и предприемачи превъртат очи, когато го чуят. Въпреки това някои от тях го взимат насериозно. Скорошно проучване на AI Impacts сред 2700 разработчици на изкуствен интелект сочи, че според 58% от тях има около 5% шанс човечеството да бъде заличено от умни машини. Това може да звучи като ненужен алармизъм, докато шегите за невъзможността на AI да рисува пръсти са актуални за поредна година, но всъщност притесненията са много по-стари и, за съжаление, много по-дълбоки.

Черната кутия наAI

В книгата си Our Final Invention ("Нашето последно изобретение"), авторът Джеймс Барат застъпва тезата, че не само е възможно AI да унищожи човечеството, но е и силно вероятно, ако погледнем не няколко години, а няколко десетилетия и векове в бъдещето. Книгата на Барат не е нова - издадена е през 2013 г. и е преиздадена отново през 2023 г., когато технологичните компании започват масово да пускат свои AI модели, по които преди това са работили в т. нар. "стелт" режим. Барат обяснява, че полето е пълно с оптимисти, които смятат, че всяка нова технология задължително ще облагодетелства света и хората в него.

Проблемите са два. Първият е, че AI работи като черна кутия. Той получава команда и данни, след което произвежда краен продукт. Въпреки че е ясно какво влиза и какво излиза, не е ясно какво точно се случва, за да се премине от първото към второто. За някои критици на сегашното поколение изкуствен интелект, което разчита на огромни количества данни с нарушено авторско право, това е повод за подигравка, както и за повдигане на етични въпроси. Технологично погледнато обаче в бъдеще тази черня кутия може да се окаже сериозен проблем, когато машините станат достатъчно умни да се самозахранват с данни.

Вторият проблем е, че никой не знае какво би станало, когато изкуственият интелект наистина стане по-умен от човека. Оптимистичната теория е, че той ще помогне на човечеството, но, разбира се, тогава въпросът е какво точно означава "човечеството" - всеки един човек поотделно? Различните социални групи? Планетата като физическо тяло?

По-песимистичната теория, застъпена от техноскептиците, е, че развитият AI бързо ще се окаже враг на хората. Той няма да може да изпитва истински емоции и ще бъде рационална машина, за която е вероятно да разглежда голяма част от човешката дейност като безсмислени ритуали - по същия начин, по който хората не се интересуват от емоционалния живот на кравите, например.

Страшната точка, според Барат, ще бъде т. нар. точка на "сингулярност", при която даден AI модел ще стане толкова умен, колкото човек. Въпросът, който Барат задава е колко време ще продължи равнопоставеността между човек и машина. Според технооптимистите този период ще бъде дълъг и без значение как се развива AI след това, той винаги ще бъде подвластен на хората. Скептиците, като Барат, се страхуват, че този момент ще трае секунди или минути, преди AI моделът да погълне цялата налична човешка информация и да достигне интелектуално ниво, непознато за който и да било човек. Какви решения ще вземе след това не е ясно, особено предвид, че машините нямат чувство за време.

Историята не винаги се повтаря

Притесненията на техноскептиците засега остават само в книги и подкасти. Никой политик не би могъл да зареже настоящи проблеми, за да решава такива десетилетия или векове напред във времето, били те и свързани с оцеляването на човешката раса. Освен това е нужен само един AI модел да достигне до подобно ниво на развитие, за да се превърне в планетарен проблем - съответно, чия работа е да го контролира?

Не помага и фактът, че говоренето по подобни теми е табу, което неминуемо води до подигравки. Всякакви притеснения за потенциални проблеми от технологии се осмива, а ако става дума за края на света - десетократно, чрез вечния аргумент "всички ще умрем". В крайна сметка, хората винаги са се страхували от технологичния прогрес и са се бунтували срещу него, но светът не е свършил с Гутенберг, Хенри Форд или дори Бил Гейтс.

Подобно отношение е грешно. Всяка технологична революция има своите печелещи и губещи, но въпросът не е в това. Въпросът е, че досега хората не са създавали технологии, които могат да взимат решения сами. Всяка друга технологична революция е водела до дигитализиране или олекотяване на механични процеси, но винаги с човек, който да направлява общия процес. Изкуственият интелект, във формата, в която би могъл да съществува след десет, двадесет или петдесет години, би бил в съвсем различна категория.

И именно това е най-големият проблем: хората не са особено добри в това да си представят реалистично нещо, което досега не са виждали. Причината технооптимистите да са толкова по-гръмогласни от скептиците е, че досега технологиите наистина предимно са подобрявали човешкия живот и не се е стигало до сериозни катастрофи. Бъдещето може и да е страшно и опасно, но хората, които вярват, че всичко вече се е случило и историята само се повтаря или поне римува, трудно биха били убедени в това.