Развитието на изкуствения интелект през последните години само добави към списъка с потенциални екзистенциални заплахи
Изглежда, че свръхбогатите в технологичния свят се подготвят за потенциален апокалипсис, предизвиквайки спекулации и загриженост, пише Би Би Си.
Марк Зукърбърг, например, от 2014 г. строи обширния комплекс Koolau Ranch, разположен на 1400 акра на хавайския остров Кауаи. Този имот, според Wired, включва убежище със собствени енергийни източници и запаси от храна, а строителите са задължени да пазят тайна. Почти двуметрова стена крие проекта от любопитни погледи. Въпреки че Зукърбърг отрича да строи бункер за края на света, наричайки подземното пространство "просто малко убежище, подобно на мазе", действията му подхранват спекулации. Неговата покупка на 11 имота в района на Кресент Парк в Калифорния, под които очевидно има подземно пространство от 650 квадратни метра, допълнително допринася за слуховете за "пещера на милиардера".
Не само Зукърбърг е ангажиран с такива дейности. Рийд Хофман, съосновател на LinkedIn, споменава "застраховка срещу апокалипсис", като посочва, че около половината от свръхбогатите я притежават, а Нова Зеландия е популярна дестинация за такива имоти. Това повдига въпроса: наистина ли тези хора се готвят за война, последствия от изменението на климата или друго катастрофално събитие, за което обществото не е информирано?
Развитието на изкуствения интелектпрез последните години само добави към списъка с потенциални екзистенциални заплахи. Много хора са дълбоко обезпокоени от бързите темпове на развитие на ИИ. Иля Суцкевер, главен научен сътрудник и съосновател на OpenAI, е един от тях. След пускането на ChatGPT през 2023 г., Суцкевер все повече се убеждава, че компютърните учени са на прага на разработването на Общ Изкуствен Интелект (ОИИ) - момент, в който машините ще се изравнят с човешкия интелект. В книгата на журналистката Карън Хао се разказва, че на среща Суцкевер е предложил изграждането на подземно убежище за водещи учени, преди пускането на толкова мощна технология. "Определено ще построим бункер, преди да пуснем ОИИ", е заявил той, макар и с неяснота кого включва в "ние".
Това разкрива странен парадокс: мнозина отводещите компютърни учении технологични лидери, които активно разработват изключително интелигентни форми на ИИ, същевременно изглеждат дълбоко обезпокоени от това, до което може да доведе тя. Въпросът е кога точно ще се появи ОИИ и наистина ли може да бъде толкова революционна технология, че да предизвика страх у обикновените хора?
Лидерите в технологичната индустрия прогнозират скорошното настъпване на ОИИ. Сам Алтман от OpenAI заяви през декември 2024 г., че това ще се случи "по-скоро, отколкото повечето хора по света си мислят". Демис Хасабис от DeepMind предвижда това в рамките на пет до десет години, а Дарио Амодей от Anthropic написа миналата година, че "мощен ИИ" може да се появи още през 2026 г. Други обаче са скептични. Уенди Хол, професор по компютърни науки в Университета на Саутхемптън, отбелязва: "Те постоянно променят правилата на играта... Научната общност твърди, че технологията на ИИ е страхотна, но тя е далеч от човешкия интелект". Бабак Ходжат, технически директор на Cognizant, е съгласен, че са необходими "фундаментални пробиви".
Една от причините тази идея да вълнува някои в Силициевата долина е, че ОИИ се счита за предвестник на нещо още по-напреднало: изкуствен суперинтелект - технология, превъзхождаща човешкия интелект. Концепцията за "сингуларност", приписана на математика Джон фон Нойман още през 1958 г., описва момента, когато компютърният интелект ще надхвърли човешкия разум. Книгата "Битие 2024" на Ерик Шмид, Крейг Мънди и Хенри Кисинджър изследва идеята за свръхмощна технология, която става толкова ефективна, че в крайна сметка изцяло ѝ предаваме контрола.
Защитниците на новите технологии за невронни мрежи са ентусиазирани от техните предимства. Те твърдят, че свръхинтелигентният ИИ ще помогне за намирането на нови лекарства за смъртоносни болести, ще реши проблема с изменението на климата и ще изобрети неизчерпаем източник на чиста енергия. Илон Мъск дори заяви, че свръхинтелигентният ИИ може да постави началото на ера на "всеобщи високи доходи", където всеки ще има достъп до по-добро здравеопазване, храна и транспорт.
Разбира се, има и тъмна страна. Има опасения, че тази технология може да бъде завзета от терористи и използвана като оръжие, или че може да реши, че човечеството е причината за световните проблеми и да ни унищожи. "Ако нещо е по-умно от нас, тогава трябва да го държим под контрол. Трябва да можем да го изключим". ", предупреди създателят на Световната мрежа Тим Бърнърс-Лий. Държавите вече предприемат защитни мерки, като например указът на президента Байдън от 2023 г. в САЩ, изискващ фирми да споделят резултати от тестове за безопасност, и създаването на Института за безопасност на ИИ във Великобритания.
Нил Лорънс, професор по машинно обучение в Кеймбриджкия университет, смята цялата дискусия за ОИИ за безсмислена. Той твърди, че "понятието за общ изкуствен интелект е също толкова абсурдно, колкото и понятието за "изкуствено общо превозно средство"". Според него разговорите за ОИИ са отвличане на вниманието от начините, по които вече създадените технологии могат да подобрят живота на хората.
Съвременните ИИ инструменти се обучават върху огромни масиви от данни и са добри в разпознаването на модели, но те не "усещат". Бабак Ходжат отбелязва, че големите езикови модели (основата на чатботовете с ИИ) могат да се държат така, сякаш имат памет и се учат, но тези способности са "незадоволителни и значително по-ниски от човешките". Винс Линч, главен изпълнителен директор на калифорнийската компания IV.AI, също е предпазлив към преувеличените твърдения за суперинтелект, наричайки ги "отличен маркетингов ход".
Въпреки че ИИ вече е надминал човешкия мозък в някои аспекти, като например възможността да бъде експерт по средновековна история в един момент и да решава сложни математически уравнения в следващия, човешкият мозък все още печели от биологична гледна точка. Той има около 86 милиарда неврони и 600 трилиона синапси, което е много повече от изкуствените аналози. Мозъкът не се нуждае от паузи между взаимодействията и постоянно се адаптира към нова информация. Ходжат подчертава, че LLM не притежават метапознание и липсва им способността за самоанализ, която понякога се нарича съзнание - фундаментална част от човешкия интелект, която все още не е възпроизведена в лаборатория.