Начало » Мисли » Ник Бостром

Ник Бостром

(швед. Niklas Bostrom) (1973)
шведски философ

Има повече научна работа върху жизнените навици на мухата, отколкото върху екзистенциалните рискове (за човечеството).

Някой малък идиот е длъжен да натисне бутона за запалване, само за да види какво ще се случи.

Според една оценка мозъкът на възрастните съхранява около един милиард бита - няколко порядъка по-малко от смартфон от нисък клас.

Когнитивното функциониране на човешкия мозък зависи от деликатна оркестрация на много фактори, особено по време на критичните етапи на развитието на ембрионите - и много по-вероятно е тази самоорганизираща се структура, за да бъде подобрена, трябва да бъде внимателно балансирана, настроена и култивирани, а не просто заливани с някаква външна отвара.

Разликата между тъп и умен човек може да изглежда голяма от антропоцентрична гледна точка, но в по-малко парохиален възглед двамата имат почти неразличими умове.

Нашата смърт може вместо това да бъде резултат от унищожаването на местообитанията, което настъпва, когато ИИ започне масивни световни строителни проекти, използвайки нанотехнологични фабрики и асемблери - строителство.

Биологичните неврони работят с максимална скорост от около 200 Hz, пълни седем порядъка по-бавни от съвременния микропроцесор (~ 2 GHz).

Работната памет на човека може да побере не повече от четири или пет парчета информация в даден момент.

Намираме се в гъсталак със стратегическа сложност, заобиколен от гъста мъгла на несигурност.

Разбира се, все още има тази картина на Терминатор, който се надсмива над практически всеки журналистически опит да се ангажира с темата.

Можем да мислим за мъдростта като способността да разбираме важните неща приблизително правилно.

Човешкият живот в най-добрия случай е фантастичен. Моля ви да създадете нещо още по-голямо. Живот, който е наистина хуманен.

По-новите системи използват статистически техники за машинно обучение, които автоматично изграждат статистически модели от наблюдаваните модели на използване.

Понякога проблем, който първоначално изглежда безнадеждно сложен, се оказва изненадващо просто решение (макар че обратното вероятно е по-често срещано).

Няма причина да предполагаме, че Homo sapiens е достигнал върха на познавателната ефективност, постижима в биологичната система.

Дори при разнообразието от задачи и редовни празници, не е сигурно, че човекоподобният ум би могъл да живее хиляди субективни години, без да развива психологически проблеми.

Колективна суперинтелигентност: Система, съставена от голям брой по-малки интелекти, така че цялостната производителност на системата в много много общи домейни значително превъзхожда тази на всяка текуща познавателна система.

Качествена суперинтелигентност: Система, която е поне толкова бърза, колкото човешкият ум и изключително качествено по-интелигентна.

Някои форми на измама могат да станат по-трудни за практикуване благодарение на увеличената наличност на много видове данни, включително репутация и записи, или обнародването на силни епистемични норми и култура на рационалност.

Обратно, с достатъчно напреднала технология за сканиране и изобилна изчислителна мощност би могло да се постигне груба сила и емулация дори при доста ограничено разбиране на мозъка.

Далеч не сме най-умният биологичен вид, вероятно по-добре се мислим за най-глупавия възможен биологичен вид, способен да започне технологична цивилизация.

Трябва да признаем, че могат да съществуват инструментално мощни системи за обработка на информация - интелигентни системи - които не са по своята същност добри, нито надеждно разумни.

Изглежда, че хората, вземащи решения, често играят идентичност или социална роля, а не се стремят да увеличат максимално постигането на някаква конкретна цел.

Преди да прекратим този подраздел, има още нещо, което трябва да подчертаем, а именно, че изкуственият интелект не трябва много да прилича на човешкия ум.

По този начин първата ултраинтелигентна машина е последното изобретение, което човек трябва да направи, при условие че машината е достатъчно послушна, за да ни каже как да я държим под контрол.

Търсачката Гугъл е, може би, най-голямата ИИ система, която все още е създадена.

Крайният потенциал на машинния интелект е, разбира се, много по-голям от този на органичния интелект.

Удоволствие! Няколко зрънца от тази вълшебна съставка струват повече от царско съкровище.

Въпреки това, от нашата гледна точка, не е ясно, че създаването на човешка раса е неморално.

Напредъкът по биологичния път е очевидно осъществим.

Ние се занимаваме с живот и шоуто трябва да продължи.

Когато сме се насочили по грешен начин, последното, от което се нуждаем, е напредъкът.

Човешката природа е работа в процес.

Живеете ли в компютърна симулация?

Не трябва да сме уверени в способността си да държим завинаги свръх интелигентен джин затворен в бутилката.

Ако майката природа беше истински родител, тя щеше да лежи в затвора за насилие над деца и убийство.

Има някои проблеми, които технологията не може да реши.

Знанието за ограниченията на вашия процес на събиране на данни влияе върху изводите, които можете да извлечете от данните.

Бихме искали решението на проблема с безопасността, преди някой да измисли решението на проблема с ИИ.

Малко вероятно е някоя от тези природни опасности да ни причини в рамките на следващите 100 години, ако вече сме оцелели 100 000. За разлика от това, ние въвеждаме чрез човешка дейност изцяло нови видове опасности чрез разработване на мощни нови технологии. Нямаме данни за оцеляване на тези.

Интернет е голяма полза за академичните изследвания. Изминаха дните, прекарани в прашни библиотеки, копаещи за статии в журнала. Много статии са достъпни безплатно за обществеността в списание с отворен достъп или като предпечатни на уебсайта на авторите.

Аз лично не мисля за себе си нито за оптимист, нито за песимист.

За здравите възрастни хора наистина голямото нещо, което можем да предвидим, са начини за намеса в процеса на стареене, или като го забавим или обърнем.

След като бъде публикувано откритие, няма начин да се премахне публикуването му.

Нанотехнологиите се движат малко по-бързо, отколкото очаквах, виртуалната реалност малко по-бавно.

Наблюдателите в по-ранните епохи може би смятат, че е също толкова нелепо да предполагат, че световната икономика един ден ще се удвои няколко пъти в рамките на един живот. И все пак това е необикновеното състояние, което сега приемаме за обикновено.

Може би това е знак за цивилизационен напредък, че самата идея за заплаха за първи ядрен удар днес изглежда гранично глупава или морално неприлична.



XX век | XXI век | Швеция | философи |
Швеция философи | Швеция XX век | Швеция XXI век | философи XX век | философи XXI век

Добави коментар

Режим на клавиатурата: ENG
Обратно горе