U pozadini je kompanija OpenAi te umjetna inteligencija koja će na učinkovitiji način nuditi odgovore na pitanja

Izvor: Shutterstock

Kompanija OpenAI je model pod nazivom ChatGPT istrenirala da komunicira poput uobičajenog razgovora. Format dijaloga omogućuje ChatGPT-u da odgovori na dodatna pitanja, prizna svoje pogreške, izazove netočne premise i odbije neprikladne zahtjeve.

Ako postavite pitanje kako izraditi bombu onda vam ChatGPT neće poput ostalih tražilica ponuditi odgovor nego će vas upozoriti kako je to vrlo opasno. ChatGPT je srodni model InstructGPT-a koji je osposobljen za praćenje uputa u upitu i pružanje detaljnog odgovora.

Metode

ChatGPT model je uvježbavan korištenjem detaljnijeg učenja praćenjem povratnih informacija od ljudi, koristeći iste metode kao InstructGPT, ali s malim razlikama u postavci prikupljanja podataka. Istrenirali su početni model pomoću nadziranog finog podešavanja: ljudski treneri AI-ja omogućili su razgovore u kojima su sudjelovale obje strane - korisnik i AI pomoćnik. Trenerima su dali pristup prijedlozima pisanim modelima kako bi im pomogli u sastavljanju odgovora.

Izvor: OpenAI

„Kako bismo stvorili model nagrađivanja za učenje s potkrijepljenim činjenicama morali smo prikupiti podatke za usporedbu koji su se sastojali od dva ili više odgovora modela rangiranih prema kvaliteti. Kako bismo prikupili te podatke uzeli smo razgovore koje su AI treneri vodili s chatbotom. Nasumično smo odabrali poruku napisanu modelom, uzorkovali nekoliko alternativnih dovršetaka i zamolili AI trenere da ih rangiraju. Koristeći ove modele nagrađivanja možemo fino podesiti model pomoću proksimalne optimizacije politike“ kažu iz kompanije OpenAI te dodaju da su izveli nekoliko iteracija ovog procesa.

Ograničenja

ChatGPT ponekad piše odgovore koji zvuče uvjerljivo, ali su netočni ili besmisleni. Rješavanje ovog problema je izazovno jer tijekom obuke trenutno nema izvora istine. Stoga treniranje modela treba biti opreznije dok obuka pod nadzorom dovodi model u zabludu jer idealan odgovor ovisi o tome što model zna, a ne o onome što zna ljudski demonstrator.

ChatGPT je osjetljiv na ugađanje fraza unosa ili pokušaj iste upute više puta. Na primjer, s obzirom na jednu formulaciju pitanja model može tvrditi da ne zna odgovor, ali s obzirom na malu preformulaciju može odgovoriti točno.

Izvor: OpenAI

Model je često pretjerano opširan i pretjerano upotrebljava određene fraze kao što je ponavljanje da se radi o jezičnom modelu koji je obučavao OpenAI. Ovi problemi proizlaze iz pristranosti u podacima o obuci (treneri preferiraju duže odgovore koji izgledaju sveobuhvatnije) i dobro poznatih problema s pretjeranom optimizacijom. U idealnom slučaju model bi postavljao razjašnjavajuća pitanja kada bi korisnik postavio dvosmislen upit. Umjesto toga, trenutni modeli obično pogađaju na što je korisnik mislio.

Iako su se potrudili da model odbije neprikladne zahtjeve ponekad će odgovoriti na štetne upute ili pokazati pristrano ponašanje. Stoga se koristi API za moderiranje za upozoravanje ili blokiranje određenih vrsta nesigurnog sadržaja, ali očekuje se da će za sada imati lažno negativne i pozitivne rezultate.

Neki od primjera

Postavite li pitanje o dolasku Christophera Columba u Ameriku 2015. godine, što nije točno, ChatGPT bi trebao sam zaključiti da je to nemoguće jer je Columbo umro 1506. godine. Ameriku odnosno Novi svijet je otkrio 1492. godine.

OpenAI je tvrtka za istraživanje i implementaciju umjetne inteligencije. Cilj njihove misije je osigurati da opća umjetna inteligencija koristi cijelom čovječanstvu. Osnovani su u prosincu 2015. godine u San Franciscu, a imaju nešto više od 100 zaposlenika.