Ja jūs ieradīsities pie manis, jūs vislabāk pieņemat pareizo nostāju vai es iešņācīšu tavu vājo argumentu apkārt kā kaķis, kurš spēlē ar bumbu.

Pirmkārt, es to izlasīju.

Otrkārt, es esmu aizmirsis vairāk akadēmisko darbu par AI, nekā jūs lasījāt visu savu dzīvi.

Treškārt, jūs vēršaties pie neatbilstošas ​​iestādes, kura ir uzrakstījusi popfilosofijas grāmatu. Es to izbaudīju kā savu sci-fi graudu, un tas tā ir. Nāciet pie manis ar savām loģiskajām kļūmēm.

Ceturtkārt, ja jūs lasītu cilvēkus, kuri faktiski strādā ar AI, jūs zināt, ka AI nedarbojas neko līdzīgu tam, ko viņš apraksta, un Bostroms veic aptauju par to, kas, pēc cilvēku domām, nav zinātniska analīze. Tas ir joks. Pat tie iespringtie puiši, kuri strādāja Muskā OpenAI, nepērk superinteliģenci, nogalinās mūs visus.

Lūk, kas patiesajiem AI pētniekiem bija jāsaka par Bostrom un jautājumu par to, kad notiek superinteliģence:

https://www.technologyreview.com/s/602410/no-the-experts-dont-think-superintelligent-ai-is-a-threat-to-humanity/

““ Ceļš, ceļš, ceļš vairāk nekā 25 gadus. Gadsimtiem visdrīzāk. Bet ne vienmēr. ”

“Mēs konkurējam ar miljoniem gadu ilgu cilvēka smadzeņu attīstību. Mēs varam rakstīt viena mērķa programmas, kas var konkurēt ar cilvēkiem un dažreiz izcelties, bet pasaule nav glīti sadalīta vienproblēmu jautājumos. ”

Niks Bostroms ir profesionāls pārbiedētājs. Viņa institūta uzdevums ir atrast eksistenciālus draudus cilvēcei. Viņš tos redz visur. ”

Kopš mēs rāpojām no purva, cilvēki ir sapņojuši par eksistenciāliem draudiem. Vispirms bija pērkons. Tad lietus Dievs mūs sadusmoja, ja mēs nedejojām, ja īstajā laikā laukā vai upurēsim kazu. Tad tas bija saplaisājis bruņurupuča čaumalas, stāstot imperatoram, ka notiks kaut kas slikts. Tad tā bija industrializācija. Mums patīk lieli bezgaumīgi draudi. Tagad mums ir super-AI.

Ja vēlaties rakstīt populāru grāmatu, vienkārši atlasiet visus eksistenciālos draudus, kas jums patīk, neatkarīgi no tā, vai tie ir citplanētieši, meteorīti, ja Dievs mūs trako vai superinteliģenta AI, un jūs varat to pārdot miljonam idiotu. Bet jūs nevarat šeit pārdot šo muļķi un runāt tā, it kā tas būtu akadēmiskais pētījums. Tas nav. Tas ir Pastardienas kults. Un tas nav nekas jauns, neatkarīgi no tā, kā jūs to ģērbjat pseidozinātniskos pētījumos un konkrētās jomas valodā, kas liek jums justies saprātīgākam nekā jūs esat. Tas ir viens solis augšpusē no Debesu vārtiem.

Mēs radām radības, kuru pamatā ir bailes, un, ja vēlaties pārdot bailes, jūs vienmēr atradīsit pircējus. Pastāv iemesls, ka Stīvens Kings ir viens no lielākajiem rakstniekiem pasaulē.

Piektkārt, kā jūs ierosināt atrisināt neesošo problēmu? Normatīvie akti? Es esmu pārliecināts, ka Ķīna izliksies par šo likumu un neturpinās to ievērot. Es esmu pārliecināts, ka arī superinteliģentajiem AI būs svarīgi rūpēties, ja viņi parādīsies uz skatuves.

Sestkārt, kamēr jūs uztraucaties par attāliem eksistenciāliem draudiem, kas nav reāli, mums ir reāli AI, kas ievieto cilvēkus cietumā, izlemj, vai jūs saņemat aizdevumu vai nē, un vada automašīnas. Ir pienācis laiks uztraukties par reālām problēmām, kuras mēs tagad varam risināt, nevis fantāzijas problēmām, kurām nav risinājumu un kuras vienkārši baro baiļu kļūdu.