Свръхинтелект: посоки, опасности, стратегии

Свръхинтелект: посоки, опасности, стратегии Ник Бострьом Времетраене: 1:15 мин. Към себе си Марк Аврелий Времетраене: 1:22 мин. Психология на глупостта Даниъл Канеман, Антонио Дамазио, Райън Холидей, Дан Ариели, Жан-Клод Кариер Времетраене: 0:51 мин. Заобиколени от лъжци Томас Ериксон Времетраене: 1:03 мин.

Какво ще стане, когато машините надминат хората по интелект? Дали това ще е нашето спасение, или напротив - ще доведе до унищожението ни?

На човечеството му предстои да се изправи пред огромно предизвикателство - срещата със създаден от него, но съкрушително превъзхождащ го изкуствен интелект, който авторът нарича свръхинтелект. Силен и аргументиран опонент на ентусиазираните призиви за бързо развитие на изкуствения интелект, Бострьом обръща специално внимание на рисковете от тази перспектива и възможните превантивни мерки.

Доминиращото си положение на планетата Земя човекът дължи на разширения набор от способности на своя мозък, които са му позволили да натрупва култура и знания и да ги предава на следващите поколения. Аналогично обаче сравнителните преимущества на свръхинтелекта могат да му позволят да завземе властта над човешката цивилизация и природата. Авторът привежда убедителен конкретен сценарий как един такъв свръхинтелект с лекота би могъл да хакне нашата цивилизация и чрез социална манипулация да използва хората като пионки в своята игра и дори да създаде собствени самовъзпроизвеждащи се на молекулярно ниво системи.

Ние обаче имаме едно предимство: първият ход е наш. Възможно ли е така да конструираме изкуствен интелект, че да оцелеем след очакваното му взривно развитие? Бъдещето на човечеството е в нашите ръце.

Книгата е част от поредицата Библиотека Красив ум на издателство Изток - Запад.

Ник Бострьом е шведски философ, професор в Оксфорд, директор на Стратегическия център за изследване на изкуствения интелект и на Института за бъдещето на човечеството. Роден през 1973 г. в Хелзингборг, Швеция, той не харесва училище от най-ранна детска възраст и прекарва последната си година от гимназията, учейки у дома. Стреми се да се обучава в широк кръг дисциплини, включително антропология, изкуство, литература и наука.

Получава бакалавърска степен по философия, математика, логика и изкуствен интелект от университета в Гьотеборг и две магистърски степени по философия и физика, както и по изчислителна неврология от Стокхолмския университет и Кралския колеж в Лондон. През 2000 г. е награден с докторска степен по философия от Лондонското училище по икономика. Заемал е преподавателски длъжности в университета в Йейл (2000 - 2002 г.) и е бил постдокторант в Британската академия в Оксфордския университет (2002 - 2005). През 2009 г. и 2015 г. той е включен в класацията на 100-те глобални мислители на списание Форин Полиси (Foreign Policy).

Изток-Запад ТМ ЕООД
София, 1000
ул. Стара планина 5, ет. 2
iztok.zapadbg@gmail.com

Незавършена приказка за врабчета
Предговор
Развитие в миналото и настоящи възможности

• Форми на растеж и исторически преглед
• Големите надежди
• Сезони на надежда и отчаяние
• Съвременно състояние
• Възгледи за бъдещето на машинния интелект

Пътища към свръхинтелекта

• Изкуствен интелект
• Цялостна емулация на човешки мозък
• Когнитивни възможности на биологичния мозък
• Мозъчно-компютърни интерфейси
• Мрежи и организации
• Резюме

Форми на свръхинтелект

• Скоростен свръхинтелект
• Колективен свръхинтелект
• Качествен свръхинтелект
• Пряк и непряк обсег
• Източници на преимущества за цифровия интелект

Кинетика на взривното развитие на интелект

• Момент и скорост на подема
• Съпротивляемост
• Пътища без участието на машинен интелект
• Пътища на емулация и ИИ
• Сила на оптимизация и взривно развитие

Решаващо стратегическо преимущество

• Ще получи ли главният претендент решаващо стратегическо преимущество?
• Колко голям ще бъде успешният проект?
• Наблюдение
• Международно сътрудничество
• От решаващо стратегическо преимущество до сингълтън

Когнитивни свръхспособности

• Функционални възможности и свръхспособности
• Сценарий за превземане на властта от ИИ
• Власт над природата и агентите

Волята на свръхинтелекта

• Връзката между интелект и мотивация
• Инструментална конвергенция
• Самосъхранение
• Интегритет на комплекса от цели
• Когнитивно усъвършенстване
• Технологично усъвършенстване
• Придобиване на ресурси

Гибелта ли е логичният изход?

• Екзистенциалната катастрофа - логичен резултат от взривното развитие на интелект?
• Вероломният обрат
• Случаи на злокачествена дисфункция
• Превратна реализация
• Инфраструктурен излишък
• Престъпление срещу разума

Проблемът за контрола

• Два агентски проблема
• Методи за контрол на възможностите
• Изолиращи методи
• Стимулни методи
• Задържане на развитието
• Предпазители
• Методи за мотивационен подбор
• Пряка спецификация
• Опитомяване
• Непряка нормативност
• Усъвършенстване
• Резюме

Оракули, джинове, суверени, инструменти

• Оракули
• Джинове и суверени
• ИИ инструменти
• Сравнение

Многополярни сценарии

• За конете и хората
• Заплати и безработица
• Капитал и обществено благосъстояние
• Малтусианският принцип в историческа перспектива
• Ръст на населението и инвестиции
• Живот в алгоритмична икономика
• Доброволно робство, делнична смърт
• Ще носи ли радост максимално ефективната работа?
• Несъзнателни работници с крайно тясна специализация
• Еволюцията не води непременно нагоре
• Формиране на сингълтън след прехода?
• Втори преход
• Суперорганизми и ефектът на мащаба
• Обединение на договорен принцип

Придобиване на ценности

• Задачата за внедряване на ценности
• Веолюционен отбор
• Обучение с утвърждаване
• Асоциативно усвояване на ценности
• Мотивационно скеле
• Ценностно обучение
• Модулиране на емулация
• Институционална конструкция
• Резюме

Избор на критерии за избор

• Необходимостта от непряка нормативност
• Кохерентна екстраполирана волеизява
• Някои обяснения
• Доводи в ползва на КЕВ
• Други забележки
• Модели на морална основа
• Прави това, което имам предвид
• Списък с компоненти
• Съдържание на целта
• Теория на решенията
• Епистемология
• Ратификация
• Достатъчно близко

Стратегически изглед

• Научна и технологична стратегия
• Диференцирано технологично развитие
• Предпочитан ред на възникване
• Скорост на промяната и усъвършенстването на когнитивните способности
• Технологични двойки
• Манипулативно предвиждане
• Пътища и способстващи фактори
• Последици от прогреса в областта на хардуера
• Трябва ли да се насърчават изследванията в областта на цялостната емулация на мозък?
• От субективна гледна точна бързината е за предпочитане
• Сътрудничество
• Състезателната динамика и нейните рискове
• За ползите от сътрудничеството
• Съвместна работа

Критичният момент

• Философия с краен срок
• Какво да се прави?
• Търсене на стратегическа яснота
• Изграждане на достатъчен капацитет
• Специални мерки
• Най-доброто в човешката природа да излезе напред

Послеслов
Благодарности
Бележки
Библиография
Частичен речник
Показалец