Ljudi misle da je problem sa AI:
halucinacija
Ali nova istraživanja pokazuju nešto puno opasnije:
AI ne izmišlja — nego ponavlja pogrešno
Neandertalci kao savršen primjer
Kada su naučnici pitali AI da opiše neandertalce:
rezultat je bio:
stereotip iz 19. stoljeća
- pogrbljeni
- dlakavi
- “polu-majmuni”
Problem?
moderna nauka kaže da to nije tačno
Antiportal moment: AI ne zna šta je istina — zna šta je dostupno
I tu dolazimo do ključnog problema:
AI uči iz:
- interneta
- tekstova
- slika
A internet je pun:
zastarjelih informacija
Zato AI:
“zapne u prošlosti”
Koliko je to loše?
Istraživanje pokazuje:
- tekst AI-a odgovara znanju iz 1960-ih
- slike odgovaraju nauci iz 80-ih i 90-ih
Drugim riječima:
AI kasni decenijama
Čak i kada mu kažeš: “budi tačan”
Istraživači su pokušali sve:
- obični upiti
- “ekspertski” upiti
Rezultat?
AI samo promijeni stil — ne i suštinu
Antiportal moment 2: problem nije AI — problem smo mi
Jer AI koristi:
ono što smo mi ostavili online
Ako su informacije:
- stare
- pogrešne
- pojednostavljene
AI će ih:
multiplicirati
Neandertalci nisu bili “glupi divljaci”
Moderna nauka kaže:
- koristili alate
- kontrolisali vatru
- imali društvo i kulturu
Ali AI često to:
pojednostavi ili ignoriše
Zašto je ovo ozbiljan problem
Jer AI postaje:
glavni izvor znanja
Ljudi više ne:
- kopaju po knjigama
- čitaju studije
Nego pitaju:
AI
Antiportal moment 3: ako AI griješi — ko ispravlja AI?
Tu dolazimo do najopasnijeg dijela:
niko
Jer ljudi vjeruju:
“AI zna”
A AI zapravo:
“pamti internet”
Šira slika
Ovo nije samo o neandertalcima.
Ovo je o svemu:
- historiji
- politici
- nauci
Ako su podaci loši:
rezultat je loš
Zaključak: AI nije budućnost — AI je ogledalo
Ne pokazuje:
šta je istina
Nego:
šta smo mi ostavili iza sebe
Konačno
Najveći problem AI-a nije što “laže”.
Nego što:
previše vjeruje nama
A mi…
često nismo baš pouzdan izvor
