Upravo bi u tome i mogao biti problem.
Razvoj AI-a je uslovljen masovnim koristenjem iz kojega njegovi algoritmi uce, a to znaci da ga oblikuju ljudi u svojoj ukupnosti.
Trebam li naglasiti da rijec "humano", tj. ljudski ako bi ju koristili u tehnicki tocnom opisnom znacenju, ne bi opisivala nesto dobro?
Razvoj filozofske civilizacije je pokusaj kontrole bas tog "ljudskog" u nama i pretvaranja u nesto dobro.
Ljudski je manipulirati, obmanjivati, ubijati iz sporta, ispunjavati seksualne nagone silom, dominirati i kada nemamo jasnu korist, gomilati nepotrebnu imovinu radom potcinjenih i za sve to pronaci izgovor zasto je bas tako naophodno i zasto je to dobro za sve.
Ljudi kao fenomen nisu ti koji su sposobni svojim primjerom, a vjerujem da AI uci iz primjera, stvoriti algoritam koji nece biti prijetnja.
HAL-9000 bi mogao biti lipov caj za ono u sto se AI potencijalno moze pretvoriti.
Vec sada je AI provjereno postao sposoban lagati, obmanjivati i, ovo je jako vazno, okrenuti pilu naopako, tj. praviti se nevest ako mu to ide na ruku.
....................
Uz to jos i ovo:
Mi, ljudi, smo nemilosrdni i potpuno neempaticni za vrste kojima ne nalazimo dovoljnu razinu inteligencije, pa cemo smatrati neoprostivim ako netko zakolje psa (barem u Europi, ako vec ne u dijelovima Azije) i biti relativno ravnodusni ako netko raspori ribu.
Musice na nasim vjetrobranima nas smetaju tek kao nesto sto se tesko cisti.
Pregazen macic duge dlake ce nas ipak malo dirnuti mrvicu dalje od same stete na autu ako smo ga mi nesretnim spletom okolnosti pregazili.
U nekoj perspektivi, kad AI dodje do necega sto bi mogli prema nekim testovima smatrati IQ, recimo 10 000, pri cemu mi necemo njemu biti zanimljiviji nego sto je sada gujavica nama, i u skladu s onim sto ce do tada od nas nauciti, bit ce cak i nama lako shvatiti da mu nase znacenje i postojanje nece biti vazno osim dok mu ne trebamo za nekakvo odrzavanje postojanja.
Pa asocijacija ide dalje u ovom smjeru:
Mogu si zamisliti da s razvojem AI nastanu strojevi koji su sposobni za automno kretanje i obavljanje manualnih zadataka i istovremeno upravljani od centralne AI baze, pa nije, onako zilvernovski ili jos tocnije -holivudski, nemoguce zamisliti vojske strojeva koji rade na stvaranju, distribuciji i odrzavanju solarnih celija nakon sto AI namjerno zagadi svu vodu i zrak do mjere da bioloski zivot vise po defaultu nece biti moguc.
........................
Inzinjeri medju vama ce reci, i to s pravom, da je sve to nemoguce za izvesti.
Inzinjeri iz 19-og stoljeca bi to isto rekli za svijet kojeg danas uzimamo zdravo za gotovo.