Следвайте "Буднаера" в Телеграм

Бернар Стиглер: Изкуственият интелект всъщност е изкуствена глупост

 Снимка: АФП

Автор: colta.ru

"Глупостта е описана много точно от Аристотел и Сократ, които казват, че ние не мислим постоянно, а от време на време между другите неща. Но понякога ние сме в състояние да мислим и да произведем това, което на гръцки се нарича „ноезис“ (мислене). Това е нашата способност да поставим себе си под условие, обръщайки се към въпроса каква е истината. Но, както подчертават Аристотел и Сократ, това е непостоянен процес. Само Бог може да пребивава винаги в такова състояние. Затова глупостта е наша съдба. Ние не можем да я избегнем напълно, макар и да се опитваме да станем разумни", казва известният френски философ Бернар Стиглер в интервю за руския сайт colta.ru.

Бернар Стиглер е съвременен френски философ, известен с оригиналната си интерпретация на цифровите технологии и нетипичната за академичен учен биография. В младежките си години Стиглер е бил осъждан за въоръжен грабеж на банка и е лежал няколко години в затвора, където сериозно го заинтересовала феноменологията. След излизането си от затвора, започва да сътрудничи на френския философ Жак Дерида, а през 1994 г. публикува първия том на своя трактат „Техника и време“. Стиглер се занимава не само с теоретичното, но и с практическото осмисляне на влиянието на дигитализацията върху развитието на обществото. Той оглавява Института за изследвания и иновации на парижкия център "Помпиду".

- Една от централните идеи на вашата философия се заключава в това, че човека винаги е бил техническо същество. Техниката не е просто материална надстройка към човешката природа, а нещо фундаментално, определящо нашия опит от пребиваването в този свят. Днес образът на киборга, оборудван с различни технически „протези“, е широко разпространен, както във философията, така и в масовата култура. Но малко са тези, които го използват така ретроспективно по отношение на цялата човешка история, както правите вие. Този подход не изтрива ли всички разлики между първобитния човек, създаващ примитивни оръдия на труда, и съвременния „милениал“, който прекарва по-голямата част от живота си в интерактивно общуване със своите устройства?

- Днешните технически процеси, увеличаването на човешките възможности посредством нови устройства, като смартфони, ноутбуци и разни други „протези“, е продължение на процесите, започнали преди три милиона години. В това отношение тук действително няма нищо ново. Новото е, първо, в ускоряването на тези процеси и, второ, че посредством това ускорение настъпва това, което сега наричат разрив. Разрив, означава, че социалните институции и отношенията между хората и знанието вече не успяват да следват логиката на еволюцията на технологиите. В резултат на това технологиите се развиват в отсъствието на необходимите за тях знания и критичната способност да се вземат решения и да се прави избор.

Например, на всички ни се налага да се адаптираме към смартфоните. Моите деца също имат смартфони, както и всички техни съученици. И в известен смисъл смартфоните ме изпреварват във възпитанието на децата ми, посредством маркетинга, видеоигрите, социалните мрежи и т. н. Получава се нещо като „късо съединение“ в обществото и, в частност в отношенията между поколенията, и в процеса на предаване на знанията, които се заместват от алгоритми. При това, алгоритмите работят с вероятности, каквато е например веригата на Марков*. Те усредняват поведението и стимулират реактивни „стадни“ действия. И именно от това оглупяваме. И това се отнася не само, да кажем за Доналд Тръмп, а и за мен самия. Всички се намираме в ситуация, когато сме принудени да се приспособяваме към поведението на обществеността и медиите. И това вече става много опасно.

- Къде е източникът на тази нова глупост? Нали предишните исторически епохи не са се сблъсквали с нея?

- Преди всичко ще подчертая, че това е глупост, която се отнася до всички хора. Това не е характеристика на отделна част от обществото. Човечеството като цяло през цялото време регресира в посока към глупостта. Ницше нарича това реактивност. Например, ако с нещо ви навредят, то вие отговаряте по същия начин, за да се избавите от неприятностите. Например, вие имате конфликт с шефа, но няма как да му отговорите със същото. И когато се върнете вкъщи, си го изкарвате на жената и децата. Това е типична за глупостта реакция. Християнството е прокарало тезис за прекъсване на тази верига. Аз не съм християнин и не съм привърженик на каквито и да било други религии, но мисля, че идеята за прекъсване на веригата има свой смисъл. Тя би могла да ни направи по-разумни. Под разумност имам предвид това, което е бил смисълът на тази дума през XVIII век. Тоест не само способността за мисловни процеси, а и способността да живееш в обществото.

Глупостта е описана много точно от Аристотел и Сократ, които казват, че ние не мислим постоянно, а от време на време между другите неща. Но понякога ние сме в състояние да мислим и да произведем това, което на гръцки се нарича „ноезис“ (мислене). Това е нашата способност да поставим себе си под условие, обръщайки се към въпроса каква е истината. И оттам да преосмислим себе си, да научим новото, да изменим своя опит, особено негативния. Но, както подчертават Аристотел и Сократ, това е непостоянен процес. Само Бог може да пребивава винаги в такова състояние. Затова глупостта е наша съдба. Ние не можем да я избегнем напълно, макар и да се опитваме да станем разумни. Ако вие например, прочетете какво сте написали или говорили преди десет години, ще ви се струва, че е глупаво, защото в този момент не сте притежавали необходимите знания. Правейки грешки, ние се учим от опита си, а това всъщност е квинтесенция на мисленето. Жил Дельоз** нарича тази възможност трансформация на нашите изначални характеристики и нашите слабости в нови възможности на квазикаузалността.

- Ако съвременната техника не прави човека напълно излишен, то тя го прави крайно зависим, лишавайки го от някога базови за живота знания и навици. Вие наричате този процес пролетаризация, но тук на отчуждаване се подлага не само труда, а цялата жизнена сфера.

- Въпросът е в това какво именно представлява днес съвременната глупост. Защото, както казва Хайдегер, има епохи на знанието, епохи на битието и епохи на глупостта. Глупостта днес въобще не е това, което е била в Древна Гърция, в Древния Рим или в Средновековието. Днес да бъдеш глупав означава да бъдеш пролетаризиран. Днес, в по-голям мащаб, става това, което Маркс и Енгелс нарекоха пролетаризация на работниците. Работниците престават да бъдат такива и се превръщат в пролетарии.

Днес ние използваме техника, която съкращава нашите знания за света. Ние си мислим, че използваме смартфона, но реално той използва нас. Ние служим на смартфоните, ставаме техни слуги. Процеса на оглупяване, ако мога така да се изразя, се осъществява именно по пътя на тази пролетаризация. За да се промени ситуацията, трябва да намерим друг подход към техниката. Глупостта винаги увеличава ентропията, т.е. разрухата и отслабването на света. Интелектът, създаването на нещо ново, напротив, произвеждат негативна ентропия, която чрез взаимодействието си с външната среда дава способност на системата да не допуска ентропия. Този обратен процес е възможността да се окаже съпротива на ентропията и антропоцена***.

Ерата на антропоцена поставя под заплаха цялата биосфера, така че въпросът за глупостта днес е въпрос за космоса. С нашата глупост ние може да унищожим биосферата или да я спасим, ако успеем да трансформираме глупостта си в мъдрост, опит и публично обсъждане. Това са много сложни въпроси. Например, не е възможно да отделиш изкуствения интелект от икономическото положение на хората, но ние се опитваме някак си да решаваме тези проблеми и аз мисля, че това е възможно. В частност, през 2020 г., ние ще изпратим колективно обръщение до ООН с предложение да бъде задействана нова програма от изследвания и експерименти, свързани с такива предизвикателства на антропоцена, като измененията на климата, повишаването на морските нива и т. н.

- Получава се така, че съвременните технологии, особено тези, които е прието да наричаме изкуствен интелект, по парадоксален начин усилват, така да се каже, естествената глупост на човечеството?

- Между другото, в една от своите лекции аз се опитах да покажа, че изкуствения интелект в действителност е изкуствена глупост. Това не означава, че съм против алгоритмите или че мисля, че не трябва да ги използваме. Но всъщност какво са алгоритмите? Те предлагат математическо изчисление, необходимо за анализ на информация, най вече на големи масиви, т.нар. Big Data, които се извличат от милиарди данни. Но, ако си спомним за Кант, то за него анализът е ноетическа способност. Мисленето не е само въпрос на разбиране, а и възможност да излезеш извън неговите предели, т.е. да приемаш решения чрез съждения, получени на базата на синтеза. На съжденията на Кант е оказала влияние физиката на Нютон. Както казва английския философ, математик и физик Алфред Уайтхед: „Днес трябва да преосмислим Кант в светлината на термодинамиката и въпроса за ентропията“. Защо? Космосът е сблъсък на процесите на ентропия и негативна ентропия. И когато правим само изчисления и автоматично прилагаме техните резултати към реалността, тогава нивото на ентропия само се увеличава. Но, както напомняше Маркс, човекът се отличава със способността да променя света. Ние бихме могли да преобразуваме това, което сега наричаме изкуствен интелект, в реален интелект, в нещо, което действително ще бъде разумно.

Да вземем например, интерпретацията на медицинските диагнози. Един мой приятел от Калифорния разработи стартъп за кардиолози. Това е система от медицински данни, която произвежда много информация, но никога не дава препоръки. Вместо това тя задава въпроси. След това лекарите и социалните мрежи работят заедно, за да решат възникналите проблеми по пътя на разискването. Използвайки тези алгоритми, те не оглупяват напълно. А в медицината това е много важно.

Навярно ви е известна теорията за черния лебед, според която: „Ако за решаването на един проблем използвате само усреднени данни, то в даден момент ще се сблъскате с черния лебед, макар че дотогава сте виждали само бели лебеди“. Така стана в Австралия, където дълго време се смяташе, че лебедите са само бели, докато една холандска експедиция не откри в Западна Австралия популация от черни лебеди. Когато използвате данни, вие работите само с т. нар. онтологии, усилващи текущото състояние на знанията. Но само знанието не е достатъчно. Ако го приемате автоматично, това винаги е своего рода глупост. Именно това се случва днес и затова аз мисля, че трябва да се промени организацията на изкуствения интелект. Аз искам да направя това чрез социален експеримент, който извършвам заедно с няколко големи компании, включително френския телеком Orange. Ние се опитваме да създадем такива алгоритми за жителите в различни региони, с които да поставим пред тях въпроса за локалното. Защото всичко негативно-ентропично винаги е локално. Негативна ентропия е невъзможна на ниво на Вселената. Ние сме длъжни не да унищожим, а да засилим локалностите, давайки им възможност за обединяване на една с друга.

- Както самият вие отбелязахте, днес техниката, както никога по-рано, е обединена с икономиката и с интересите на капитала. Но често говорите за техниката така, като че ли тя до голяма степен е автономна. Техниката според вас е субектна, тя може да подчинява на себе си други обекти, включително и социални институции. Нима е възможно да говорим за техниката, игнорирайки нейното подчиняване на чисто икономически интереси?

- Въпросът е в това какво наричаме икономика. Съществуват много видове икономики. Един от тях е напълно подвластен на изчисленията и се намира под контрола на глобалните пазари, които работят със скоростта на светлината. Но, например, предишната организация на икономиката, основана на идеите на Кейнс за регулиране на пазарите, се появи след Голямата депресия в САЩ. Тя напълно се различаваше от капиталистическата икономика на XIX век, която беше изградена не върху растежа, а върху индустриализацията на стара Европа. Тоест въпросът не е в икономиката като такава, а в нейните различни форми. Освен това, има политикономия и дори либидна икономика. Последната например, е процес на сублимация във фройдиския смисъл на думата, т.е. съзидание, което не е насочено пряко към получаване на печалби. Писателят или режисьорът използват технологията за писане, както и цифровите технологии, не заради парите, а заради изкуството (въпреки, че и тук се плаща). Има разлика в използването на техниката за съзидание, образование, автономия и грижи за себе си в смисъла, който влага Фуко, и използването на техниката за получаване на икономически изгоди. Тези две сфери се различават, но не е възможно да ги разделим напълно.

Въпросът е да преосмислим либидната икономика по Фройд и политикономията на Маркс. Маркс трябва да бъде критикуван и дори да бъде надхвърлен. Защото Маркс не е знаел нищо за съвременния капитализъм и обработката на информация, както и Фройд не е знаел нищо за влиянието на смартфоните върху несъзнателното. Затова за нас е необходимо да продължим да развиваме теорията за намеренията, желанията, за принципа на удоволствията, за привличането към смъртта и привличането към живота. Аз се опитвам да правя това в групите във Франция, където работим с психоаналитици, лекари и т. н.

В този смисъл много важен е въпросът какво е това работа. Днес в политикономията на капитализма професията не е работа, а труд (отчуждена форма на работата - бел. пр.). Трудещите, са хора, които са способни да имат отношения само с автоматизирани системи, базирани на калкулации и усредняване на вероятностите, т.е. системи, произвеждащи ентропия. В капитализма всички ние сме трудещи се, а не работници. Днес аз съм пенсионер. Но до миналата година преподавах в университет и всичките ми студенти казваха, че не могат да работят, а просто ще станат трудещи се. Защо? Защото текущото състояние ги лишава от възможността да имат желание и ги заставя да бъдат движени само от инстинктите си, като привличането към смъртта и привличането към живота. Така че ние трябва да реконституираме либидната икономика, за което е необходимо да осмислим технологиите през призмата на идеите на психоанализата.

Днес психоаналитиците едва започват да откриват за себе си този проблем. Ето затова ние трябва да преформулираме понятието за работа и какъв е нейният статут в политикономията на капитализма. Аз вече казах, че трябва да се борим с ерата на антропоцена, която увеличава ентропията, като например: термодинамичната - чрез изменението на климата, биологичната - чрез унищожаване на биологичното разнообразие и информационната - чрез хегемонията на глупостта. Ако искаме да преодолеем ентропията, а залозите за това са много високи, защото иначе висшите форми на живот ще изчезнат от биосферата, трябва отново да измислим роля на работата. Въпросът обаче е в това как да върнем работата в живота си, така че да намалим нивото на пролетаризация. Ние наричаме това контрибутивна икономика ****.

Аз започнах да разсъждавам върху тези теми още преди двадесет години, когато открих как безплатно се разпространява програмното обезпечаване. Тогава бях шеф на голяма компания и управлявах 70 програмисти. В един момент забелязах, че безплатното разпространение на програми е крайно ефективно и абсолютно не прилича на начина, по който е организиран бизнесът като цяло (с разделението на труда и т. н.). Организацията на безплатно програмно обезпечаване е основана на увеличаването на знанията и съвместен достъп до тях. Това е борба против пролетаризацията. Затова, според мен, е много важно да се разшири тази практика и в други направления. Това е напълно възможно и сега ние се опитваме да експериментираме с това в Париж.

- Времето и техниката според вашето разбиране са неотделими от човека и без него не съществуват. При това съвременният технологичен дискурс се опитва да произведе такава темпоралност, в която или въобще няма хора, или те са радикално различни от Homo sapiens. С това, в частност, е свързано и понятието за технологична сингулярност, след чието настъпване човек престава да бъде център на вселената. Може ли да си представите свят на победилите машини, самоусъвършенстващи се без участието на човека?

- В действителност, аз въобще не вярвам, че съвременните технологии ще произведат именно такава темпоралност. Както писа Андре Леруа-Гуран (френски археолог, палеонтолог и палеоантрополог, изучавал доисторическата естетика и технологии - бел. пр.), ако вие помолите някой човек от XVIII век да оцени какво представляваме ние в ХХ век, той би казал: Не, това са съвършено други хора, това не е Homo sapiens. Homo sapiens e форма на живот, която може да произвежда негативни ентропични преобразувания, т.е. тя действа не чрез биологичните органи, а чрез технологичните. Това е започнало още преди три милиона години. Защото мисленето въобще не са изчисленията, а производство на бифуркации посредством възможностите на това, което Ницше нарича воля. Затова аз си мисля, че ние не трябва да интериоризираме дискурса на трансхуманизма.

Твърдението, че сингулярността ще настъпи до двадесет години, а изчисленията ще заменят човешкия разум, са абсолютни фалшиви новини. Това е чиста идеология и маркетинг, с който Силициевата долина се опитва да контролира това, което американският математик, физикохимик и демограф, Алфред Лотка нарича процес на екзосоматизация. Хората постоянно еволюират, а екзосоматизацията е производство на изкуствени органи. Сега тази еволюция се ускорява, но САЩ, Русия и Китай се борят за контрол над този процесСегашният залог е в промяната на условията и правилата на играта. Защото еволюцията във вида, в който е организирана в Силициевата долина ускорява антропоцена, който, в крайна сметка, ще унищожи всички нас, включително и самата Силициева долина.

Когато Илон Мъск казва, че ще замине за Марс на своите ракети, това даже не е лъжа, а чиста глупост. Не можеш да изстреляш ракета до Марс, ако никой не остане на Земята да обслужва тази система. Вероятно може да се организира космически транспорт, но истинският въпрос не е в това как да излетиш от Земята, а как да я спасиш, за да имаш възможност след това да летиш до Марс и до Луната. Може би сте чули, че сега Мъск е в депресия. Той има сериозни ментални проблеми. Те са свързани именно с това, че той е много умен човек и знае, че всичко това, което сега говоря е вярно.

- Какво остава от човешката автономия в този век, когато алгоритмите познават желанията на хората по-добре от тях самите? Може ли да се върнем към „наивната“ категория за автономия в смисъла, който влага Кант, като способност самостоятелно да определяме своите желания?

- Това е много хубав въпрос. Лично аз не мисля, че алгоритмите познават нашите желания по-добре, отколкото ние самите. Те по-скоро ги унищожават и ги заменят с потребности. Желанието не е само потребност, а нещо повече. А алгоритмите само създават потребности и ни манипулират, за да обслужваме интересите на пазара. Въпросът не е във връщането към „наивните“ категории за автономия, а в разбирането, че автономията винаги е свързана с хетерономия (подчинение на субекта на чужди за него закони - бел. пр.).

Аз започнах своите изследвания с Жак Дерида, който твърдеше, че няма Логос без писменост, а писмеността е хетерономна технология. Следвайки Сократ, той я нарече хипомнезия, т.е. устройство, произвеждащо фармакон*****. Днес не съществува автономия в чист вид. Тя може да има само някаква относително локална специфичност на негативна ентропия. Ние трябва да се научим как да работим с машините. Днес това е главното предизвикателство. Ако успеем да направим това, то ще можем отново да създадем разбирането за това какво е работа.

Ето как, например, Микеланджело е обяснил какво е да изработиш скулптура: „Вие постоянно се сблъсквате с ограниченията, които налагат мрамора, инструментите и т. н. Това е изкуство, но в същото време е и право, философия и наука“. С една дума, трябва напълно да променим определението за това какво е мислене и знание. Предишната ми книга се казваше „Какво е това грижа?“. Защото във френския език думата panser (превързвам, грижа се за някого, успокоявам) е съзвучна с думата penser (мисля). В старофренския това е била една и съща дума, която е означавала, „грижа се“. Това е същото, което Хайдегер нарича Sorge, а Ницше - болест и здраве. Така че се налага отново да интерпретираме Ницше, Хайдегер, Фройд, а така също и Дерида и Фуко в новия контекст на антропоцена, където реалният залог се изразява в ограничаването на ентропията и реартикулирането на автономията и хетерономията.    

* Последователност от случайни събития с краен или четно число изходи, характеризиращи се, най-общо казано, със свойството, че при фиксирано настояще, бъдещето е независимо от миналото.

** Френски философ, постмодернист от втората половина на ХХ век.

*** Епохата на прекаленото влияние на човешката активност върху екосистемата на Земята.

**** Икономика, използваща продуктивно цифровите технологии, които в рамките на корпорацията обикновено водят до отчуждение. Например, в Уикипедиа и в другите open-source общности.

***** Понятие от философията на Дерида, което подчертава двойствеността на явленията. Например, отрова и лекарство в един флакон (бел. пр.) 

Превод от руски: Никола Стефанов

Източник/ци: http://glasove.com/categori

Следвайте "Буднаера" в Телеграм

Ако този материал Ви харесва, помогнете ни да го популяризираме. Благодарим Ви!