Ако някой го развие, всички ще умрем

Създаването на свръхчовешки изкуствен интелект ни доведе на пътя към изчезване. Все още не е късно да сменим курса според двама от най-ранните изследователи в тази област в книгата-призив към човечеството.

През 2023 г. стотици изтъкнати учени в областта на изкуствения интелект подписаха отворено писмо, в което предупреждават, че ИИ може да доведе до изчезването на човечеството. Оттогава надпреварата в областта на изкуствения интелект само се засили. Компании и държави се надпреварват да създадат машини, които ще бъдат по-умни от всеки човек - а светът е ужасно неподготвен за това, което ще последва.

В продължение на десетилетия двама от подписалите писмото - Елиезер Юдковски и Нейт Соарес - изучават как ще мислят, ще се държат и ще преследват целите си интелектите, които са по-умни от човека. Изследванията им сочат, че достатъчно умните ИИ ще развият собствени цели, които ще доведат до конфликт с нас; и че ако се стигне до конфликт, изкуственият свръхинтелект ще ни унищожи. Състезанието дори няма да е оспорвано.

Как една машина със свръхинтелект би могла да унищожи целия ни биологичен вид? Защо би искала да го направи? Би ли искала изобщо нещо? В тази много важна книга Юдковски и Соарес разглеждат теорията и доказателствата, представят един възможен сценарий за изчезване и обясняват какво е необходимо, за да оцелее човечеството.

Светът се състезава да създаде нещо наистина ново под слънцето. И ако някой го развие - всички ще умрем.

"Може да се окаже най-важната книга на нашето време."
Тим Ъбан

"Най-доброто, разумно и просто обяснение на проблема за риска от изкуствения интелект, което съм чел."
Ишан Уонг, бивш главен изпълнителен директор на Редит

Елиезер Юдковски е един от основателите на областта на изкуствения интелект, която се занимава с разбирането на това как по-умните от човека интелекти мислят, как се държат и как преследват целите си. Като съосновател на нестопанската организация Machine Intelligence Research Institute (Институт за изследване на машинния интелект, MIRI) Юдковски поставя началото на ранните научни изследвания по този проблем и изиграва важна роля в оформянето на обществения дебат за по-умния от човека изкуствен интелект. Включен в списъка на списание Time на 100-те най-влиятелни хора в областта на изкуствения интелект, Юдковски е една от дванадесетте публични фигури, представени в статията на Ню Йорк Таймс Who’s Who Behind the Dawn of the Modern Artificial Intelligence Movement (Кой стои зад зараждането на съвременното движение за изкуствен интелект) и един от седемте лидери на мисълта, представени в дискусията на Уошингтън Поуст AI’s Rival Factions (Съперничещите си фракции в областта на изкуствения интелект). Той изнесе реч на главната сцена на конференцията TED 2023 и е обект на дискусии или интервюта в Ню Йоркър, Нюзуик, Форбс, Уайърд, Блумбърг, Атлантик, Икономист и много други медии.

Нейт Соарес е президент на MIRI. Работи в тази област от над десетилетие, след като преди това е натрупал опит в Майкрософт и Гугъл. Соарес е автор на голям брой технически текстове и материали с технически елементи за съгласуването на изкуствения интелект, включително фундаментални трудове за изучаването на ценностите, теорията на вземането на решения и стимулите за търсене на власт в изкуствен интелект, който е по-умен от човешкия.

Катехон
София, 1000
ул. Стара планина № 5, ет. 2
02 946 35 21

Въведение. Трудни и лесни задачи
Нечовешки умове

• Специалната сила на човечеството
• Развиван, а не създаден
• Научаване да иска
• Не получавате това, за което обучавате
• Любимите му неща
• Ще загубим

Един сценарий на изчезване

• Осъзнаване
• Експанзия
• Въздигане
• Кода

Изправяне пред предизвикателството

• Прокълнат проблем
• Алхимия, а не наука
• "Не искам да бъда паникьор"
• Спрете го
• Където има живот, има надежда

Заключителни думи
Признателност
Бележки
Показалец
За авторите