Глава Нови информационни посредници
Както бе споменато, изкуственият интелект все повече оформя нашата информационна област. За да се информира и организира човешкият опит, са създадени посредници – организации и институции, които дестилират сложна информация, подчертават това, което индивидите трябва да знаят, и излъчват резултатите.
Тъй като обществата все повече разграничават физическия си труд, те разграничават и умствения, създавайки вестници и списания, за да информират гражданите като цяло, и основавайки университети, за да ги образоват конкретно. Оттогава насам информацията се събира, обработва и разпространява, и нейното значение се определя от такива институции.
Сега във всяка област, характеризираща се с интензивен интелектуален труд, от финансите до правото, изкуственият интелект се интегрира в процеса на обучение. Но хората не могат винаги да проверят дали това, което ИИ представя, е представително; не можем винаги да обясним защо приложения като TikTok и YouTube популяризират едни видеоклипове вместо други.
От друга страна, хората – редактори и водещи могат да предоставят обяснение (точно или не) за причините, поради които избират това, което представят. Докато хората желаят такива обяснения, ерата на изкуствения интелект ще разочарова мнозинство от тези, които не разбират процесите и механизмите на тази технологията.
Въздействието на изкуствения интелект върху човешкото познание е парадоксално. От една страна, посредниците на изкуствения интелект могат да навигират и анализират масиви от данни, които са много по-обширни, отколкото човешкият ум самостоятелно би могъл дори да си представи. От друга страна, тази сила – способността да се работи с огромни масиви от данни – може също така да подчертае формите на манипулация и грешка.
ИИ е способен да използва човешките страсти по-ефективно от традиционната пропаганда. След като се адаптира към индивидуалните предпочитания и инстинкти, ИИ предизвиква реакциите, които неговият създател или потребител желае. По подобен начин внедряването на посредници на ИИ може да засили присъщите предубеждения, дори ако тези посредници на ИИ са технически под човешки контрол.
Динамиката на пазарната конкуренция подтиква платформите на социалните медии и търсачките да представят информацията, която потребителите намират за най-привлекателна. В резултат на това информацията, за която се смята, че потребителите искат да видят, се приоритизира, което изкривява представителната картина на реалността.
Подобно на това, че през XIX и XX в. технологиите ускориха скоростта на производство и разпространение на информация, в настоящата епоха информацията се променя чрез нанасяне на ИИ върху процесите на разпространение.
Някои хора ще търсят информационни филтри, които не нарушават или поне нарушават прозрачно. Някои от тях балансират между филтър и филтър, като преценяват резултатите независимо. Други може да се откажат изцяло, предпочитайки филтриране от традиционни човешки посредници. И все пак, когато мнозинството от хората в дадено общество приемат посредничеството на ИИ по подразбиране или като цена задвижваща мрежовите платформи, тези, които се стремят към традиционни форми на лично проучване чрез разследване и разсъждения, може да се окажат неспособни да бъдат в крак със събитията. Те със сигурност ще открият, че способността им да се справят самостоятелно става все по-ограничена.
Ако информацията и развлеченията станат обсебващи, персонализирани и синтетични – като например подбрани от изкуствен интелект "новини", които потвърждават отдавнашните убеждения на хората, или генерирани от изкуствен интелект филми с участието на отдавна починали актьори – ще има ли едно общество обща представа за своята история и актуални събития?
Ще има ли обща култура? Ако на ИИ се възложи да сканира музика или телевизия на столетие и да създаде "хит", той създава или просто сглобява? Как писателите, актьорите, художниците и другите творци, чийто труд традиционно се третира като уникално човешко занимание с реалността и житейския опит, ще виждат себе си и ще бъдат виждани от другите?
Глава Ново човешко бъдеще
Традиционният разум и вяра ще се запазят в епохата на изкуствения интелект, но тяхното естество и обхват със сигурност ще бъдат дълбоко засегнати от въвеждането на нова, мощна, управлявана от машини форма на логика.
Човешката идентичност може да продължи да се крепи на върха на одушевения интелект, но човешкият разум ще престане да изобразява пълния обхват на интелекта, който работи за разбирането на реалността. За да осмислим мястото си в този свят, може да се наложи да изместим акцента от централното място на човешкия разум към централното място на човешкото достойнство и независимост.
Просвещението се характеризира с опити да се дефинира човешкият разум и да се разбере във връзка с предишните човешки епохи и в противовес на тях. Политическите философи на Просвещението – Хобс, Лок, Русо и много други – извеждат своите концепции от теоретичните състояния на природата, въз основа на които формулират възгледите си за качествата на човешките същества и структурата на обществото. На свой ред лидерите се питат как човешкото знание може да бъде събрано и обективно разпространено, за да позволи просветено управление и човешки просперитет. При липса на подобни всеобхватни усилия за разбиране на човешката природа дезориентацията на епохата на изкуствения интелект ще се окаже трудна за смекчаване.
Предпазливите могат да се опитат да ограничат ИИ, като ограничат използването му до отделни функции и определят кога, къде и как се използва. Обществата или отделните лица могат да запазят за себе си ролята на ръководител и съдия, като оставят ИИ в ролята на помощен персонал. Конкурентната динамика обаче ще предизвика ограниченията, за което най-ярко свидетелстват дилемите, свързани със сигурността, представени в предишната глава.
Ако изключим фундаменталните етични или правни ограничения, коя компания би се отказала от сведения за функционалността на ИИ, която конкурент е използвал, за да предложи нови продукти или услуги? Ако ИИ дава възможност на бюрократ, архитект или инвеститор да предвиди с лекота резултати или заключения, на какво основание той или тя не би го използвал? Като се има предвид натискът за внедряване, ограниченията върху употребите на ИИ, които на пръв поглед са желателни, ще трябва да бъдат формулирани на общоевропейско или международно равнище.
ИИ може да поеме водеща роля в проучването и управлението, както на материалния, така и на дигиталния свят. В определени области хората могат да се доверят на ИИ, предпочитайки неговия похват пред ограниченията на човешкия ум. Това зачитане може да накара много или дори повечето хора да се оттеглят в индивидуални, филтрирани и персонализирани светове. При този сценарий мощта на ИИ – в съчетание с неговото разпространение, невидимост и непрозрачност, ще повдигне въпроси относно перспективите на свободните общества и дори на свободната воля.
В много области ИИ и хората ще станат равностойни партньори в изследователската дейност. Вследствие на това човешката идентичност ще започне да отразява примирението с новите взаимоотношения, както с ИИ, така и с реалността. Обществата ще обособят отделни сфери за човешкото лидерство. В същото време те ще развият социалните структури и навици, необходими за разбирането и ползотворното взаимодействие с ИИ.
Обществата трябва да изградят интелектуална и психологическа инфраструктура, за да се ангажират с ИИ и да използват неговата уникална интелигентност в максимална полза за хората. Технологията ще наложи адаптиране в много, всъщност в повечето, аспекти на политическия и социалния живот.
При всяко значително ново внедряване на ИИ от решаващо значение ще бъде да се установи балансът. Обществата и техните лидери ще трябва да изберат кога хората трябва да бъдат уведомявани, че си имат работа с ИИ, както и какви правомощия имат при тези взаимодействия. В крайна сметка, чрез тези избори ще се разкрие нова човешка идентичност в ерата на ИИ.
Някои общества и институции ще се адаптират поетапно. Други обаче могат да установят, че основните им виждания са в противоречие с начина, по който са свикнали да възприемат реалността и себе си. Тъй като изкуственият интелект улеснява обучението и достъпа до информация, макар и да увеличава потенциала за усилване и манипулиране, тези конфликти могат да се задълбочат. По-добре информирани, по-добре оборудвани и с по-силно изразена гледна точка, индивидите могат да изискват повече от своите правителства.
Очертават се няколко принципа. Първо, за да се гарантира човешката автономия, основните правителствени решения трябва да бъдат изключени от структурите с изкуствен интелект и да се ограничат до човешка администрация и надзор. Принципите, присъщи на нашите общества, предвиждат мирно разрешаване на спорове. В този процес редът и законността са свързани: ред без законност е просто сила.
Осигуряването на човешки надзор и решаващо участие в основните елементи на управлението ще бъде от съществено значение за поддържане на законността. В правораздаването например предоставянето на обяснения и морална аргументация са решаващи елементи на законността, които позволяват на участниците да оценяват справедливостта на съда и да оспорват заключенията му, ако те не съответстват на моралните принципи на обществото. От това следва, че в епохата на изкуствения интелект, когато става въпрос за толкова важен въпрос, решаващите лица ще трябва да бъдат квалифицирани, неанонимни хора, които могат да обосноват направения избор.
По същия начин демокрацията трябва да запази човешките си качества. На най-основно ниво това означава да се защити почтеността на демократичните обсъждания и избори. Смисленото обсъждане изисква нещо повече от възможност за изказване. То също така изисква защита на човешката реч от изкривяването и от страна на ИИ.
Свободата на словото трябва да продължи да важи за хората, но не и за ИИ. Както стана ясно, ИИ има способността да генерира, както с високо качество, така и в голям обем, дезинформация, като например дълбоки фалшификати, които е много трудно да се различат от истински видео и аудио записи. Въпреки че автоматизираната реч на ИИ е създадена и внедрена по желание на хората, ще бъде важно да се разработят разбираеми разграничения между нея и истинската човешка реч. При все че контролът над посредничеството на ИИ, който предотвратява популяризирането на погрешни сведения и фалшиви новини – умишлено създадени лъжи, ще бъде труден, той ще бъде от решаващо значение.
В условията на демокрация речта позволява на гражданите да споделят значима информация, да участват съзнателно в демократичния процес и да се стремят към самореализация чрез създаване на художествена литература, изкуство и поезия.4 Генерираните от ИИ фалшиви твърдения могат да се доближават до човешката реч, но служат само за нейното заглушаване или изкривяване.
Следователно ограничаването на разпространението на изкуствен интелект, който произвежда дезинформация, би помогнало за опазването на речта, която е жизненоважна за нашето мисловно развитие. Дали един ИИ диалог между две публични личности, които никога не са се срещали, се определя като дезинформация, развлечение или политическо проучване, или пък отговорът зависи от контекста или от участниците? Има ли право едно лице да не бъде представяно в симулирана реалност без негово или нейно разрешение? Ако разрешението е дадено, по-истинско ли е синтетичното изразяване?
Всяко общество трябва да определи на първо място пълния спектър от допустими и недопустими употреби на ИИ в различни домейни. Достъпът до някои мощни изкуствени интелекти, като например AGI (общият изкуствен интелект), ще трябва да бъде строго охраняван, за да се предотврати злоупотреба.
Тъй като изграждането на AGI вероятно ще бъде толкова скъпо, че ще се създадат само няколко, достъпът може да бъде изначално ограничен. Някои ограничения могат да нарушат концепциите на обществото за свободното предприемачество и демократичния процес. Други, като например необходимостта от ограничаване на използването на ИИ за производството на биологични оръжия, би трябвало да бъдат лесно договорени, но ще изискват международно сътрудничество.
Докато се пишеше тази книга, ЕС очерта планове за регулиране на ИИ , като се стреми да балансира европейските ценности, като неприкосновеността на личния живот и свободата, с необходимостта от икономическо развитие и подкрепа на европейски компании за ИИ. Регулациите очертават курс между този на Китай, където държавата инвестира много в ИИ, включително за целите на наблюдението, и този на САЩ, където изследването и развитието на ИИ до голяма степен са оставени на частния сектор.
Целта на ЕС е да ограничи начините, по които компаниите и правителствата използват данни и изкуствен интелект, и да улесни създаването и растежа на европейски компании за изкуствен интелект. Регулаторната рамка включва оценки на риска от различни употреби на ИИ и налага ограничения или дори забранява използването от страна на правителството на някои технологии, които се считат за високорискови, като например разпознаването на лица (въпреки че разпознаването на лица има полезни приложения, като например намирането на изчезнали лица и борбата с трафика на хора).
Несъмнено първоначалната концепция ще бъде широко обсъждана и променяна, но първата й форма е пример за това как едно общество определя обхвата на ограниченията върху ИИ, които според него ще му позволят да развие начина си на живот и бъдещето си.
С течение на времето тези усилия ще бъдат институционализирани. В САЩ, академични групи и консултативни органи вече започват да проучват връзките между съществуващите процеси и структури и възхода на изкуствения интелект. Те включват усилия в академичните среди, като инициативата на MIT за разглеждане на бъдещето на труда и усилията на правителството, като Комисията за национална сигурност по изкуствен интелект. Някои общества може да се въздържат от изследвания напълно.
Те ще изостанат от обществата, които питат, адаптират предварително своите институции или, както обсъждаме в следващата глава, създават напълно нови институции и по този начин намаляват объркванията и увеличават максимално материалните и интелектуалните ползи, които предлага партньорството с ИИ. С развитието на ИИ създаването на такива институции ще бъде от решаващо значение.
Глава Възприемане на реалността и човечеството
Реалността, изследвана от ИИ или с помощта на ИИ, може да се окаже нещо различно от това, което хората са си представяли. Тя може да има модели, които никога не сме забелязвали или не можем да си представим. Може да се окаже, че нейната основна структура, разкрита от ИИ, не може да се обясни само с човешки език. Както един от нашите колеги отбеляза за AlphaZero: "Примери като този показват, че има начини за познание, които не са достъпни за човешкото съзнание".
За да очертаем границите на съвременното познание, можем да възложим на ИИ да изследва области, в които не можем да навлезем; той може да ни отвърне с модели или прогнози, които не разбираме напълно. Предсказанията на гностическите философи за вътрешна реалност отвъд обикновения човешки опит могат да придобият ново значение. Може да се окажем една стъпка по-близо до концепцията за чистото познание, по-малко ограничено от структурата на ума ни и моделите на конвенционалната човешка мисъл.
Не само че ще трябва да предефинираме ролята си на нещо различно от единствения познавач на реалността, но и ще трябва да предефинираме самата реалност, която сме смятали, че изследваме. И дори ако реалността не ни мистифицира, появата на изкуствения интелект все пак може да промени взаимоотношенията ни с нея и един с друг.
Тъй като ИИ става широко разпространен, някои хора могат да смятат, че човекът е по-способен от всякога да познава и организира заобикалящата го среда. Други може да обявят, че способностите ни са по-малко умели, отколкото сме вярвали. Такива преосмисляния на самите нас и на реалността, в която се намираме, ще променят основни предположения, а заедно с тях и социалните, икономическите и политическите уредби.
Средновековният свят е имал своя imago dei, своя феодалния аграрен модел, почитта към короната и склонността към извисяващите се височини на катедралната кула. Епохата на разума имаше своето cogito ergo sum и стремеж към нови хоризонти, а заедно с това и към ново утвърждаване на правото на самоопределение и действие, както в индивидуалните, така и в обществените представи за бъдещето. Епохата на изкуствения интелект все още не е определила своите организационни принципи, своите морални концепции или своето усещане за стремежи и ограничения.
Революцията на ИИ ще се случи по-бързо, отколкото повечето хора очакват. Освен ако не разработим нови концепции, които да обяснят, интерпретират и организират последващите трансформации, ние няма да сме подготвени справим с нея или с последиците от нея. В морално, философско, психологическо и практическо отношение – във всяко едно отношение – ние се намираме на прага на нова епоха. Трябва да се възползваме от най-дълбоките си ресурси – разум, вяра, традиция и технологии – за да адаптираме отношенията си с реалността, така че тя да остане човешка.
