Начало » Мисли » Ник Бостром

Ник Бостром

(швед. Niklas Bostrom) (1973)
шведски философ

Има повече научна работа върху жизнените навици на мухата, отколкото върху екзистенциалните рискове (за човечеството).

Някой малък идиот е длъжен да натисне бутона за запалване, само за да види какво ще се случи.

Според една оценка мозъкът на възрастните съхранява около един милиард бита - няколко порядъка по-малко от смартфон от нисък клас.

Когнитивното функциониране на човешкия мозък зависи от деликатна оркестрация на много фактори, особено по време на критичните етапи на развитието на ембрионите - и много по-вероятно е тази самоорганизираща се структура, за да бъде подобрена, трябва да бъде внимателно балансирана, настроена и култивирани, а не просто заливани с някаква външна отвара.

Разликата между тъп и умен човек може да изглежда голяма от антропоцентрична гледна точка, но в по-малко парохиален възглед двамата имат почти неразличими умове.

Нашата смърт може вместо това да бъде резултат от унищожаването на местообитанията, което настъпва, когато ИИ започне масивни световни строителни проекти, използвайки нанотехнологични фабрики и асемблери - строителство.

Биологичните неврони работят с максимална скорост от около 200 Hz, пълни седем порядъка по-бавни от съвременния микропроцесор (~ 2 GHz).

Работната памет на човека може да побере не повече от четири или пет парчета информация в даден момент.

Намираме се в гъсталак със стратегическа сложност, заобиколен от гъста мъгла на несигурност.

Разбира се, все още има тази картина на Терминатор, който се надсмива над практически всеки журналистически опит да се ангажира с темата.

Можем да мислим за мъдростта като способността да разбираме важните неща приблизително правилно.

Човешкият живот в най-добрия случай е фантастичен. Моля ви да създадете нещо още по-голямо. Живот, който е наистина хуманен.

По-новите системи използват статистически техники за машинно обучение, които автоматично изграждат статистически модели от наблюдаваните модели на използване.

Понякога проблем, който първоначално изглежда безнадеждно сложен, се оказва изненадващо просто решение (макар че обратното вероятно е по-често срещано).

Няма причина да предполагаме, че Homo sapiens е достигнал върха на познавателната ефективност, постижима в биологичната система.

Дори при разнообразието от задачи и редовни празници, не е сигурно, че човекоподобният ум би могъл да живее хиляди субективни години, без да развива психологически проблеми.

Колективна суперинтелигентност: Система, съставена от голям брой по-малки интелекти, така че цялостната производителност на системата в много много общи домейни значително превъзхожда тази на всяка текуща познавателна система.

Качествена суперинтелигентност: Система, която е поне толкова бърза, колкото човешкият ум и изключително качествено по-интелигентна.

Някои форми на измама могат да станат по-трудни за практикуване благодарение на увеличената наличност на много видове данни, включително репутация и записи, или обнародването на силни епистемични норми и култура на рационалност.

Обратно, с достатъчно напреднала технология за сканиране и изобилна изчислителна мощност би могло да се постигне груба сила и емулация дори при доста ограничено разбиране на мозъка.

Далеч не сме най-умният биологичен вид, вероятно по-добре се мислим за най-глупавия възможен биологичен вид, способен да започне технологична цивилизация.

Трябва да признаем, че могат да съществуват инструментално мощни системи за обработка на информация - интелигентни системи - които не са по своята същност добри, нито надеждно разумни.

Изглежда, че хората, вземащи решения, често играят идентичност или социална роля, а не се стремят да увеличат максимално постигането на някаква конкретна цел.

Преди да прекратим този подраздел, има още нещо, което трябва да подчертаем, а именно, че изкуственият интелект не трябва много да прилича на човешкия ум.

По този начин първата ултраинтелигентна машина е последното изобретение, което човек трябва да направи, при условие че машината е достатъчно послушна, за да ни каже как да я държим под контрол.

Търсачката Гугъл е, може би, най-голямата ИИ система, която все още е създадена.

Крайният потенциал на машинния интелект е, разбира се, много по-голям от този на органичния интелект.

Удоволствие! Няколко зрънца от тази вълшебна съставка струват повече от царско съкровище.

Въпреки това, от нашата гледна точка, не е ясно, че създаването на човешка раса е неморално.

Напредъкът по биологичния път е очевидно осъществим.

Ние се занимаваме с живот и шоуто трябва да продължи.

Когато сме се насочили по грешен начин, последното, от което се нуждаем, е напредъкът.

Човешката природа е работа в процес.

Живеете ли в компютърна симулация?

Не трябва да сме уверени в способността си да държим завинаги свръх интелигентен джин затворен в бутилката.

Ако майката природа беше истински родител, тя щеше да лежи в затвора за насилие над деца и убийство.

Има някои проблеми, които технологията не може да реши.

Знанието за ограниченията на вашия процес на събиране на данни влияе върху изводите, които можете да извлечете от данните.

Бихме искали решението на проблема с безопасността, преди някой да измисли решението на проблема с ИИ.

Малко вероятно е някоя от тези природни опасности да ни причини в рамките на следващите 100 години, ако вече сме оцелели 100 000. За разлика от това, ние въвеждаме чрез човешка дейност изцяло нови видове опасности чрез разработване на мощни нови технологии. Нямаме данни за оцеляване на тези.

Интернет е голяма полза за академичните изследвания. Изминаха дните, прекарани в прашни библиотеки, копаещи за статии в журнала. Много статии са достъпни безплатно за обществеността в списание с отворен достъп или като предпечатни на уебсайта на авторите.

Аз лично не мисля за себе си нито за оптимист, нито за песимист.

За здравите възрастни хора наистина голямото нещо, което можем да предвидим, са начини за намеса в процеса на стареене, или като го забавим или обърнем.

След като бъде публикувано откритие, няма начин да се премахне публикуването му.

Нанотехнологиите се движат малко по-бързо, отколкото очаквах, виртуалната реалност малко по-бавно.

Наблюдателите в по-ранните епохи може би смятат, че е също толкова нелепо да предполагат, че световната икономика един ден ще се удвои няколко пъти в рамките на един живот. И все пак това е необикновеното състояние, което сега приемаме за обикновено.

Може би това е знак за цивилизационен напредък, че самата идея за заплаха за първи ядрен удар днес изглежда гранично глупава или морално неприлична.

За съжаление, скоро ще има оръжие, което ще унищожи света. За щастие получихме безвъзмездна помощ за създаването му!

Бихме могли да отложим работата по многогодишни проблеми, като делегираме тази задача на нашите, надяваме се, по-компетентни потомци, за да можем да се съсредоточим върху по-належащ проблем: увеличаване на шансовете изобщо да имаме потомци.

Изгубени сме в гъсталака на непробиваема стратегическа сложност, забулена в гъста мъгла на несигурност.

Реалността е нещо, с което никой не е запознат.

Ако има множество достатъчно напреднали цивилизации, те са склонни да създават симулации на Вселената или части от нея и ние най-вероятно живеем в една от тях.

Ако майката природа беше истински родител, тя щеше да бъде в затвора за малтретиране и убийства на деца.

Природата може да е страхотен експериментатор, но този, който никога не би се съгласил с борда за преглед на етиката - в разрез с Хелзинкската декларация и всяка норма за морално благоприличие, ляво, дясно и в центъра.

В тази книга се опитвам да разбера предизвикателството, представено от перспективата за свръхинтелект, и как бихме могли да отговорим най-добре. Това е може би най-важното и най-страшното предизвикателство, с което човечеството се е сблъсквало някога. И - независимо дали ще успеем или не - това е може би последното предизвикателство, с което някога ще се сблъскаме.

Какво по-очарователно от откриването на живота, който еволюира изцяло независимо от живота тук на Земята? На много хора би им било приятно да научат, че не сме съвсем сами в този обширен студен космос. Но се надявам, че нашите сонди Марс няма да открият нищо. Би било добра новина, ако открием, че Марс е напълно стерилен. Мъртви скали и безжизнени пясъци биха повдигнали духа ми.

Разликата между ням и умен човек може да изглежда голяма от антропоцентрична гледна точка, но в по-малко пристрастен поглед двамата имат почти неразличими умове.

Вселената е студена. Забавлението е огънят, който разтапя блоковете на трудностите и създава кипящ празник на живота. Това е правото на раждане на всяко същество, право не по-малко свято за това, че е било стъпкано от началото на времето.

Далеч от това, че сме най-умният възможен биологичен вид, вероятно сме по-добре възприемани като най-глупавите възможни биологични видове, способни да стартираме технологична цивилизация - ниша, която запълнихме, защото стигнахме там първо, а не защото в някакъв смисъл сме оптимално адаптирани към нея.

Интернет е голяма благодат за академичните изследвания. Отминаха дните, прекарани в прашни библиотечни библиотеки, търсейки статии от списания. Много статии са достъпни безплатно за обществеността в списания с отворен достъп или като предпечатки на уебсайта на авторите.

Наблюдателите в по-ранни епохи биха могли да смятат за еднакво абсурдно да предполагат, че един ден световната икономика ще се удвои няколко пъти в рамките на един живот. И все пак това е необикновеното състояние, което сега приемаме за обикновено.

Решаването на проблема със зареждането на стойност е изследователско предизвикателство, достойно за някои от най-добрите математически таланти от следващото поколение. Не можем да отложим сблъскването с този проблем, докато ИИ не разработи достатъчно причини, за да разберем лесно нашите намерения.



XX век | XXI век | Швеция | философи |
Швеция философи | Швеция XX век | Швеция XXI век | философи XX век | философи XXI век

Кин-Войло
Цикъл от лекции по Интелект
Коментар #2 от: 17-12-2020, 22:34:07
«Бихме искали решение на проблема с безопасността, преди някой да измисли решението на проблема с ИИ.»

Нека успокоим приятеля Никлас Бостром — няма да се налага решаване на никакъв проблем с безопасността, защото такъв проблем няма да има. Няма да има решение и на проблема с Изкуствения Интелект. ИИ е мечта, която е романтична, но неосъществима.

За да решим хипотетичния проблем с Изкуствения Интелект, трябва преди това да бъдем поканени на чуем цикъл от лекции, които да ни изнесе сам Господ-Бог и на тях той да ни обясни как е изобретил Естествения Интелект.

…Чакаме лекциите Му вече толкова хиляди години!
Кин-Войло
COVID-19 versus „МЕДИЙНА ПОМИЯ“
Коментар #1 от: 17-12-2020, 19:57:39
«Когнитивното функциониране на човешкия мозък зависи от деликатна оркестрация на много фактори, особено по време на критичните етапи на развитието на ембрионите. И вероятно, за да бъде подобрена, тази самоорганизираща се структура трябва да бъде внимателно балансирана, настроена и култивирана, а не просто заливана с някаква външна отвара.»

Опитват се да ни внушат, че протуберансът от ретро-вирусна пандемия, избухнал под името КОВИД-19, е опит за „внимателно балансиране“ на въпросната самоорганизираща се структура в планетарен мащаб, извършена възоснова на модерна нано-технология за генетично прекодиране на човешкия мозък (а вероятно и на човешкия геном), тъй като в наше време окончателно се убедихме в неефективността на старите манипулативни методи на „външната отвара“ (а аз бих казал: „външната ПОМИЯ“), с която ни заливат средствата за медиен информационен погром.
Добави коментар

Режим на клавиатурата: ENG
Обратно горе