La efektiva danĝero de AI

Dum konferenco de antaŭ kelkaj monatoj, Sam Altman, la kunfondinto de OpenAI, respondante la demandon de ĵurnalisto pri kiuj estas la ĉefaj riskoj de artefarita intelekto, listigis tri eblojn. La unuaj du estas iom sciecfikciaj, kaj iel ni jam spektis ilin ĉe deko da filmoj dum la lastaj jaroj. 

En unu, mavulo celas kontroli AI-on je damaĝo de la homaro, kio kaŭzas apokalipson. En la alia, kiun por la ŝatantoj de Terminator ni povus nomi “kazo Skynet”, AI rifuzas obei la homaron kaj iĝas memkonscia, rifuzas sian malaktiviĝon kaj ekribelas kontraŭ sia kreinto: ankaŭ tio kaŭzas apokalipson.

Kiel ajn fascinaj, tiuj kazoj aspektas malverŝajnaj se kompare al la nuntempa teknologio. La tria kazo, tamen – kaj pro tio al ĝi Altman dediĉas pli da tempo – estas la plej interesa, konvinka… kaj maltrankviliga. Temas pri eblo kiu ne kaŭzos formon de apokalipso, sed kiu riskas profunde modifi la homaron kaj ĝian rilaton al libero. 

Esence, la tria kazo estas tiu en kiu tiom forte AI kaj la homa decida mekanismo integriĝis, ke tio kondukas spontane la homojn fari elektojn nur surbaze de AI-perado. Nome, en la momento en kiu artefarita intelekto tiom integriĝas en niaj vivoj pere de nia telefono, kaj baldaŭ rekte en nia cerbo pere de la lanĉotaj sistemoj Neuralink, niaj decidoj estos konstante filtrataj tra daŭra konsultado de AI, tiam esenca parto de nia decida procezo.

Cetere, kial elekti solaj, se danke al artefarita intelekto ni povas maksimumigi niajn decidojn kaj ŝpari amason da tempo? AI, enhavante en si la tutan homan sciaron, se ne la absolute plej bonan, kapablos almenaŭ doni al ni bonegan respondon por niaj problemoj, demandoj, duboj, ĉar ĝi kapablas analizi, konsideri, trastudi informojn multe pli rapide kaj amplekse ol ni – se oni dubas pri la kvalito de la rezultoj en la hodiaŭa tago, sufiĉus vidi kia estis la kvalito antaŭ kvin jaroj kaj kiel gargantuaj estis la ĝisnunaj progresoj. Kaj la respondoj ne estus nur ĝeneralaj: ĝi lernos koni nin, niajn ŝatojn, niajn preferojn, niajn malvirtojn, kaj donos sugestojn laŭ tio, kion ĝi opinias plej oportuna por ni. 

Tamen, en tia situacio, kio okazos al la homa libero? ĉu ni eltenos nian malperfektecon en socio kie ĉiuj agas perfekte pere de sia cerba asistanto? ĉu homoj kiuj ne povos al si permesi bonan modelon de AI estos konsiderataj iel handikapuloj? ĉu la nuntempa normala homo iĝos sub-homo, malpli efika, malpli plenuma? ĉu entute ni ankoraŭ estos homoj, aŭ – kiel kelkaj filozofoj asertas – ni iĝos trans-homaj estaĵoj?

Ke ni perdos nian liberon, tio ne multe zorgigas nin. Ĝi estas koncepto kiun ni ne kapablas aprezi; laŭ Dostoevskij la homoj eĉ ne volas esti liberaj – estonta poeto eble diros ke ni kreis artefaritan intelekton por savi nin de la torturo esti liberaj.

Kaj mi? Mi estas realisto, mi neniam kredis ĝisfunde en la koncepto de libero. Tamen, kvankam liberaj, aŭ almenaŭ taksante sin tiaj, la homoj kapablas trans-homumi negative al bestecaj kondutoj kiuj nenion havas homan. Ĉu tio ne estas sufiĉa pruvo ke, malgraŭ la admonoj de William Auld, la homaro ne sukcesas liberiĝi de sia infaneco? 

Ĉu artefarita intelekto igos nin adoleskaj? Al la posteuloj estos la respondo.