informativne objave na temu AI & ML (Uskoro nam neće biti života bez)

[Vix]

AI nije svestan svoje nesvesnosti 

Mene jedino brine da jednog dana moze postati nezadovoljan ljudima, te da preduzme nesto u vezi toga...

[Mikorist]

pre 1 sat, Vix reče

AI nije svestan svoje nesvesnosti 

Mene jedino brine da jednog dana moze postati nezadovoljan ljudima, te da preduzme nesto u vezi toga...

AI nije biće nego računski program. To je matematički model odnosno algoritam koji samo računa koja reč statistički najverovatnije ide sledeća u tekstu iz ogromne baze teksta. Nema telo, emocije, želje ni svest. Da bi neko bio nezadovoljan mora prvo nešto da želi, a AI ne želi ništa. On nema svoje ciljeve nego izvršava ono za šta je napravljen. Kad se odgovor izračuna proces se završava i nema nikakvog trajnog „ja“ koje nastavlja da razmišlja. Ne postoji trenutak kada AI sedi i planira nešto sam za sebe. Zato ideja da će AI postati nezadovoljan i napasti ljude spada u naučnu fantastiku poput filma  Terminator. Pravi problem nikad nije mašina nego čovek koji je programira ili koristi.I kako se koristi. 

[Mikorist]

Pozivi na bojkot ChatGPT-a zbog saradnje sa Ministarstvom odbrane SAD

N1INFO.RS

---

Saradnja kompanije "OpenAI" sa američkim Ministarstvom odbrane izazvala je talas kritika na društvenim mrežama i pokrenula poziv na bojkot "ChatGPT"-a.

 

[Mikorist]

Ajde sad nešto ozbiljno. (kao do sad nije bilo)

AI Disassembles 1986 6502 Code, Reveals Logic Errors | Mark Russinovich posted on the topic | LinkedIn

WWW.LINKEDIN.COM

---

AI’s ability to find vulnerabilities is amazing, and its ability to reverse engineer machine language is shocking. For fun, I tested them with a binary listing from a 1986 COMPUTE! magazine article I wrote: "Better Branching in Applesoft." To my surprise, the AI didn't just disassemble the 6502 machine language; it reconstructed the logic with accurate labels and comments...

Zanimljiv post.......

U postu je Mark Russinovich dao AI modelu da analizira njegov Apple II program iz 1986. napisan u 6502 assembleru.

AI je:

dekompajlirao mašinski kod.....razumeo logiku programa....pronašao nekoliko bugova i potencijalnih ranjivosti......Poenta posta nije Apple II nostalgija, nego nešto mnogo gore.............

Postoje milijarde legacy mikro-kontrolera koji rade firmware koji niko nikad nije auditovao.

industrijski PLC........medicinski uređaji........automobilski ECU........IoT firmware........stari routeri..........BIOS / UEFI...............stari kernel moduli...............

Šta je problem ovde 

legacy code + nema source kod + nema maintainer + nema patch pipeline (jer je zatvoren komercijaln kod)

AI sada može: da decompile firmware.......pronađe memory corruption........analizira control flow..................pronađe logic bugove

 

HAKER *(kineski, ruski,  iranski... kojigod)  može skalirati research pomoću AI.

AI analiza call graph - taint flow - predlog exploit path

AI može da bude automatski vulnerability researcher = PAKAO

ZAKLJUČAK

najveći talas exploita/virusa u istoriji softvera i sveta (u najavi).

p.s.

možda Linux (jedino)preživi i to je pitanje na čemu 

[Leonardo]

 

Uh, posle crnih hakera, belih hakera, samo nam je falio  AI Master Haker  ili još gore  armija AI hakera.

[Zen Mod]

ai fatamorgana

[LightMatic]

Sve hakeri nikom ponikoše.....

[Mikorist]

Pre AI-a reverse engineering je bio spor, skup i zahtevao vrhunske eksperte.

Tipičan workflow:

firmware dump

load u IDA Pro ili Ghidra

ručno mapiranje funkcija

praćenje control flow

manualna analiza memory access-a

eventualno exploit ili peglanje bagova do 0  

EVO ja sam ceo BIOS svoj promenio kroz AI i radi 100%.

Pre nisam umeo da uradim taj deo sam 

Teoretski zakon može zabraniti:

AI za exploit development

AI vulnerability research

Ali u praksi ima VIŠE problema uključujući geo političke.

Open AI modeli se mogu skinuti i trenirati lokalno.

Kinezima i Rusima ne pada na pamet da se drže toga.
Njima će AI biti multiplikator moći.
 

[Vix]

Ukratko, nAI'bali smo...