Jedu govna. Pisao ja o tome na blogu. Niko ne čita. Pisao i na engleskom na Mediumu. Koga bre briga šta je istina? Bitno da ima naslov "AI će sve da nas pobije za dve godine", pa udri po panici, klikovima i dramoseriji. Proliv svaka druga tema.
Prvo, ko mu daje root? Agent može da bude sposoban koliko god hoćeš, može da bude jebeni Anštajn, ali ako nema privilegije, lozinke, mrežni pristup i dozvolu da izvršava akcije, može da sedi i planira do večnosti. Može eventualno da iskoristi neku ranjivost, ali onda više ne pričamo o nekoj magičnoj superinteligenciji koja je rešila da nas počisti, nego o sasvim konkretnom sajber napadu. A taj napad opet mora da prođe kroz konkretan sistem, konkretne rupe, konkretne zaštite i gomilu onoga što su ljudi godinama nakucavali oko infrastrukture.
Drugo, čak i kad mu neko da pristup, računarska snaga nije neki beskonačni mozak iz naučne fantastike. Ako mu treba milion GPU da bi nešto izračunao, tih milion GPU neko prvo mora da mu obezbedi. Mora da ih kupi, nakači, napaja, ohladi, poveže, održava i da mu ne rikne pola farme kad krene da miriše na pečenu elektroniku. Nije to magija, jebote. To je data centar. Pored je grad nakačen na isti taj dalekovod. A ako pričaš o fizičkom svetu, tek onda kreće cirkus. Nije dovoljno da napiše "napravi supervirus" i klikne Enter. Trebaju laboratorija, materijal, oprema, proizvodnja, testiranje, logistika, ljudi ili roboti koji to stvarno mogu da izvedu. Ne izlazi virus iz GPT-a kroz USB.
Isto važi za elektroenergetiku, finansije, nuklearne sisteme i sve ostalo. Svaki od tih sistema ima svoje autentikacije, segmentaciju, fizičke kontrole, redundansu, procedure, bekape i ljude koji mogu jednostavno da povuku kabl iz zida kad baš sve ode u kurac. Možeš ti da budeš najpametniji softver na planeti, ali ako nemaš putanju od svog procesa do fizičkog prekidača, možeš da filozofiraš koliko hoćeš.
I onda se još raspravlja šta Amerikanci prave, šta Kinezi prave i ko će prvi da napravi Skynet. Ma kakav Skynet, bre. Prvo mu daj root pa da vidimo dokle će da dogura. A posle možemo da pričamo o kraju civilizacije.