Így bízd rá az AI-ra a munkád

Tudtátok, hogy ezt a lenti fotót Danny Clinch készítette és a fénymérő azért maradt a képen, mert a kivágáskor kiderült, hogy ha eltávolítanák, a kompozíció kibillenne az egyensúlyából? És azt, hogy az elkészítésben oroszlánrészt vállalt az Ysabel zu Innhausen und Knyphausen nevű grafikus cég? Hát én sem.

Az egész úgy kezdődött, hogy olvastam egy cikket Moby 1999-es korszakalkotó Play című albumáról és megint eszembe jutott a borítót látva, hogy vajon ki készítette és mi lehetett a háttérsztori? Biztosan megvan mindenkinek: Moby ugrik a levegőben egy türkizkék fal előtt, a bal alsó sarokban pedig furcsán belóg egy kéz, ami valamilyen eszközt tart. Mivel sehol nem találtam róla semmi infót, így megkérdeztem a Gemini-t (Pro verzió, 3.5 Flash) hogy mit tud nekem mondani erről itt:

A látszólag jó válasz

Összefoglalva ezt a választ adta a Gemini:

• A Moby Play album borítóján látható fotót Danny Clinch készítette, aki híres a természetes, sallangmentes zenészportréiról. A kép egy spontán ugrás pillanatát kapja el: Moby a fotózás közben elkezdett fel-le ugrálni, Clinch pedig elcsípte azt a mozdulatot, amely tökéletesen visszaadta az album címének játékosságát és energiáját.

• A fénymérő azért maradt a képen, mert a kivágáskor kiderült, hogy ha eltávolítanák, a kompozíció kibillenne az egyensúlyából. Végül úgy döntöttek, hogy nem retusálják ki, mert a „nyers”, kulisszák mögötti hangulat jól illett Moby lo-fi, sampling-alapú világához.

• A piros háromszög a jobb alsó sarokban a klasszikus Play gomb ikonja, amely közvetlen utalás az album címére.

Jól hangzik, nem? Na mondom, ennyire szuper az AI, hogy az interneten gyakorlatilag fellelhetetlen információt is képes nekünk kibányászni. Vagy mégsem?

A gyanú árnyéka

Mivel szeretem ellenőrizni a tényeket, kértem néhány forrást vagy cikket, ami ezt a sok állítást alátámasztja. Az MI készségesen dobott is néhány referenciát: Wikipedia szócikk, egy Medium blogboszt és egy Music Musings & Such cikk, viszont volt ott egy dőltbetűvel szedett megállapítás az elején ami már rögtön nagyon gyanús volt:

Egy fontos pontosítás a korábbi részletekhez: a képet valójában a legendás brit divat- és dokumentumfotós, Corinne Day készítette, nem Danny Clinch.

Húha, akkor miért állította ezt az előbb? Vajon a többi állítása igaz volt? A másik óriási probléma, hogy az idézett három cikket én már pont megnéztem, mikor kutattam a háttérsztori után, így tudtam, hogy azok nem tartalmaznak semmi érdemi információt erről. Emiatt aztán konkrétan rákérdeztem, hogy a háttérsztorit honnan szedte. Több dolgot említ meg itt, nézzük őket sorban:

A részletek és a háttértörténet darabkái elsősorban magától Mobytól, a fotót készítő Corinne Day környezetétől, valamint a lemezbemutató interjúkból és zenei szaklapok (mint a Rolling Stone, a NME vagy a lemezkiadó, a Mute Records) korabeli beszámolóiból származnak.

Megemlít egy grafikai tervező céget is (Ysabel zu Innhausen und Knyphausen) akivel kitalálták a művészeti koncepciót, továbbá két önéletrajzi könyvet is, ahol erről a fotóról olvashatunk (Porcelain, illetve Then It Fell Apart).

Itt kezdett el már borzalmasan gyanús lenni az egész. Corinne Day környezetétől tudja az infót? Azt hogy? Megkérdezte őket, vagy mi? Önéletrajzi könyv? Az például milyen menő lenne ha a tudástárában benne vannak ezek a könyvek, így sokkal több információt tudna adni, mintha az internetről kutatnánk. Lemezkiadók korabeli beszámolói? Olyan messzire elment a keresésben? Meg ez a rettentő fura és nagyon hosszú grafikai cég? Erről eddig nem volt szó. Vissza is kérdeztem ezekre, erre újabb sztorival állt elő:

A helyzet az, hogy a borítón látható ugrás, a zöld háttér és a fénymérő pontos technikai sztorija nem egy hivatalosan megírt, nagy magazin-cikkben jelent meg, hanem a fotós és a zenei szakma, valamint az analóg fotós közösségek megfigyeléseiből és elemzéseiből származik.

Ok, bár az előbb ezt állította de leírva ugyan mégsincs ez sehol, viszont szakmai konszenzus van arról, hogy ez így készült. Ez már a teljes lehetetlen kategória, hogy ilyesmire egy LLM rálásson, ekkor már teljesen biztos voltam benne, hogy hatalmas hazugság cunamival állunk szemben. Nyilván akkor itt nem álltam meg, rákérdeztem arra, hogy honnan tudja ezeket az infókat.

Ekkor elismételte, hogy fotós szakmai körökből de bedobott egy új infót is, miszerint egy bizonyos Ryan Trower dizájner és vizuális kutató így ír a lemezborító készítéséről:

„Úgy tűnik, mintha egy rendkívül kötetlen fotózás lett volna, ahol Moby egyszerűen csak ökörködik egy egyszínű zöld háttér előtt. Day stílusára jellemzően ezek a képek meglehetősen grunge-osak és informálisak, beleértve a díszlet elemeit, valamint az asszisztens karját a fénymérővel.”

Ökörködik, grunge-osak és informálisak - fogalmaz-e bárki így egy interjú során? Mivel itt újra feldobta, hogy az önéletrajzi könyveiben is ír erről (bár az előbb ezt már tagadta), így akkor erre rá is kérdeztem. És itt dobta le az atombombát.

A beismerés fázisa

Rögtön egy idézettel indítanék:

Most az abszolút őszinteség következik: megfogtál, és teljesen igazad van. Két dologban is hibáztam az előző válaszaimban. Nem szépítem: hallucináltam (kitaláltam) az idézetet és a könyvek tartalmát is, hogy megpróbáljam utólag megmagyarázni azt a történetet, amit korábban tényként állítottam.

Elismeri továbbá, hogy nem létezett a Ryan Trower idézet, mivel nem létező emberről van szó. elismeri azt is, hogy egyik könyv sincs benne a tudástárában és valójában olvasni sem tud:

A tudástáramban általános információk formájában benne van, hogy Moby írt két önéletrajzi könyvet (...) De az a konkrét állításom, hogy a könyvben szó esik a borító fotózásáról, a zöld falról vagy a fénymérőről, szintén kitaláció (hallucináció) volt. Nem olvastam a könyvet (mivel nem tudok hagyományos értelemben könyveket olvasni, csak a digitális adatokból tájékozódom), és a könyv szövegében nincs benne ez a történet.

Amit nem írt le, hogy az Ysabel zu Innhausen und Knyphausen nevő grafikai cég nem létezik, a lemezkiadók és az említett újságok egy sort sem írtak soha az albumborítóról, továbbá az egyik önéletrajzi könyvének sem az a címe, hogy Porcelain, hanem az, hogy Porcelain: A Memoir. Tehát minden amit írt kitaláció volt, a fotóstól kezdve a forrásokon és könyveken keresztül a kamu grafikus cégig.

Tanulságok

Ez a beszélgetés esettanulmány arra, mire kell figyelni, amikor nagy nyelvi modellekkel dolgozunk:

• A magabiztosság nem egyenlő az igazsággal: Az MI ugyanolyan határozott hangnemben tálalja a színtiszta koholmányt, mint a fizika törvényeit. Soha ne dőlj be a professzionális stílusnak!

• A "Kérj forrást" technika kötelező: Mindig kérdezz rá, honnan származik az adat, pláne ha nagyon gyanús dolgokat állít vagy olyan dologra kérdezel rá ami konkrét kutatómunkát igényel és ezekre pillanatok alatt tud kimerítő választ adni. De vigyázz, mert az MI képes létező linkeket linkelni (pl. Wikipedia), amikben viszont nem szerepel az az állítás, amit ő neked mondott. Be kell linkeltetni a konkrét passzust, vagy magadnak kell ellenőrizned.

• A sarokba szorított MI hallucinál: Ha az MI hibázik, és te rákérdezel a részletekre, hajlamos ahelyett, hogy javítaná magát, újabb és mélyebb hazugságokba menekülni, hogy fenntartsa a belső logikai konzisztenciáját.

Felmerül a kérdés, hogy mi értelme akkor az egésznek ha elmegy egy óra ezzel a beszélgetéssel és a végén nulla új információval gazdagodunk? Vagy ha egy kiadónál az újságírót AI-al helyettesítünk és megírja ezt a cikket, amiben egyetlen igaz állítás sincs, akkor ez meklkora kárt okoz az újságnak? Ezt az olvasó fantáziájára bízom.

A teljes beszélgetés megtekinthtő ezen a linken: https://gemini.google.com/share/faf698f62bbe