Vjerojatno ste navikli razmišljati o umjetnoj inteligenciji kao onom chatbotu koji vam piše pjesme ili sažima e-poruke, ali postoji novi trend koji potpuno zaobilazi riječi. TypeSafe AI je lansirao Jev , alat koji razbija kalup jer ne piše niti jednu rečenicu; njegova je misija dostaviti tehničke i probabilističke odluke koje bilo koji računalni program može odmah obraditi bez ikakvih problema.
Zamislite da imate sustav koji obrađuje tisuće zahtjeva i ne trebate umjetnu inteligenciju da vam objasni zašto je zahtjev hitan; jednostavno vam treba da kaže "hitno: da". Jev se pozicionira upravo tamo, u tom jazu između krutog koda i sporih jezičnih modela, nudeći ono što nazivaju modelima Sustava Jedan , inspiriranim psihologijom brzog, intuitivnog razmišljanja Daniela Kahnemana.
Što je točno Jev AI?
Za razliku od divova poput GPT-a ili Claudea, koji otpuštaju tokene jedan po jedan za izgradnju odlomka, Jev radi kao pametni poziv funkcije . Predajete mu stanje (koje može biti JSON, tekst ili popis) i skup unaprijed definiranih pitanja, a model vraća strukturirane vrijednosti. To znači da nema pogrešaka u tipu ili problema s formatiranjem, budući da je odgovor vezan uz opcije koje ste prethodno odabrali.
Arhitektura koja stoji iza ovog modela koristi specifičnu metodu treniranja pod nazivom Učenje s potkrepljenjem za kalibrirane odluke (RLCD) . Cilj ovdje nije da umjetna inteligencija bude simpatična ili uvjerljiva, već da njezine vjerojatnosti budu iskrene i kalibrirane. Ako Jev kaže da je 90% siguran u odgovor, ta brojka trebala bi odražavati stvarnu točnost - nešto ključno kada želite da softver djeluje autonomno bez da čovjek mora pregledavati svaki korak.
Tri osnovna alata: primitivi
Kako bi stvari bile jednostavne i učinkovite, Jevov API temelji se na tri vrste pitanja koja mu omogućuju pokrivanje gotovo svake potrebe klasifikacije:
- Izbor: Omogućuje vam odabir jedne opcije iz grupe od do 255 mogućnosti. Ne samo da vam daje pobjedničku opciju, već i kartu vjerojatnosti svih opcija i ocjenu pouzdanosti. Uključuje opciju "drugo" kako bi se spriječilo da model prisili netočan odgovor.
- Postići: Procijenite nešto na postupnoj skali (od 2 do 10 razina). Zanimljivo je da vraća decimalne vrijednosti (poput 1.4), što vam omogućuje da uhvatite... nijanse između kategorija koji bi cijeli broj ignorirao.
- Noul (Booleova evaluacija): To je pojednostavljena verzija odgovora da ili ne, koja vraća vjerojatnost između 0 i 1.
Najmoćnija značajka je to što Jev može odgovoriti na sva ova pitanja u jednom, paralelnom koraku . Ako trebate znati kategoriju poruke, razinu ljutnje kupca i traži li povrat novca, Jev vam daje sva tri odgovora odjednom, tako da dodavanje više pitanja jedva utječe na vrijeme odgovora.
Performanse, troškovi i sitni tisak
Gledajući brojke, TypeSafe AI se može pohvaliti nevjerojatnom brzinom, s latencijama u rasponu od 70 do 500 milisekundi . U usporedbi s frontier LLM-ovima, kojima je potrebno nekoliko sekundi za izradu odgovora, Jev je apsurdno brz. Nadalje, cijena je ključna prednost: košta samo 0,042 dolara po milijunu ulaznih tokena , a izlazi su potpuno besplatni jer ne generiraju novi tekst.
Međutim, ove brojke treba uzeti s rezervom. Mnoge od testova proveo je sam TypeSafe tim, što može unijeti određenu pristranost. Ipak, obećanje nula pogrešaka u shemi je opipljivo: matematički je nemoguće da Jev vrati format koji niste definirali, što eliminira potrebu za složenim validacijama u kodu.
Gdje Jev AI blista, a gdje posrće?
Jev je kralj kada morate donositi repetitivne, masovne odluke o nestrukturiranim podacima. Idealan je za usmjeravanje potencijalnih klijenata , moderiranje sadržaja, trijažu tehničke podrške ili čak stvaranje zaštitnih ograda za praćenje rezultata drugih, većih AI modela. Također je vrlo koristan u web navigaciji, gdje može odlučiti na koji element kliknuti na stranici bez potrebe za opisom zaslona.
Međutim, nemojte ga pokušavati koristiti za sve. Jev nije prikladan za čavrljanje, programiranje ili objašnjavanje svog razmišljanja. Ima jasna ograničenja s matematikom i brojanjem znakova, te ne rukuje dobro datumima ili heksadecimalnim vrijednostima. Nadalje, nedostaje mu poznavanje svijeta; zna samo što unesete u status upita. Ako vam je potrebno složeno razmišljanje ili kreativno generiranje, trebali biste se držati modela System 2 poput Claudea ili GPT-a.
Integracija u razvojni ekosustav
Za programere je integracija prilično jednostavna. Službeni SDK-ovi postoje za JavaScript, TypeScript i Python , a iako ne postoji jedan za PHP, dovoljan je jednostavan POST zahtjev. Nadalje, Jev je već dostupan u Vercelovom AI Gatewayu, što uvelike pojednostavljuje upravljanje ključevima i naplatu ako već koristite to okruženje.
Vrlo pametan obrazac za korištenje Jeva je stvaranje kaskade odlučivanja . Prvo, Jev filtrira i klasificira zahtjev jeftino i brzo; zatim, deterministički kod obrađuje jednostavnije slučajeve, i samo u slučajevima gdje Jev ukazuje na nisku pouzdanost, zahtjev se eskalira na skupi model zaključivanja ili ljudskog operatera. To optimizira proračun i smanjuje ukupnu latenciju sustava.
Ovaj alat redefinira odnos između umjetne inteligencije i softvera pretvarajući inteligenciju u infrastrukturnu komponentu , a ne u sugovornika. Eliminiranjem generiranja teksta i fokusiranjem na probabilističku kalibraciju, Jev omogućuje strojevima donošenje brzih i pouzdanih odluka uz zanemarive troškove, otvarajući vrata automatizaciji koja je prije bila preskupa ili spora.