Az OpenAI legújabb fejlesztése, a GPT-4o mini bevezetése jelentős előrelépést hoz az AI-technológia terén, amely nemcsak megfizethetőbb, hanem energiatakarékosabb is. Ez az új modell célja, hogy szélesebb ügyfélkört érjen el, és ösztönözze a fejlesztőket arra, hogy az OpenAI termékeit használják alkalmazásaik fejlesztéséhez. “Úgy gondolom, hogy a GPT-4o Mini valóban eléri az OpenAI küldetését, hogy szélesebb körben elérhetővé tegye az AI-t az emberek számára. Ha azt akarjuk, hogy a mesterséges intelligencia a világ minden szegletében, minden iparágban, minden alkalmazásban részesüljön, akkor az AI-t sokkal megfizethetőbbé kell tennünk.” – mondta Olivier Godement, az API platform termékének vezetője.
Megfizethetőség és elérhetőség
A Microsoft által támogatott OpenAI új modellje a GPT-4o mini, amely 2023 októberéig rendelkezik naprakész információkkal. Az új modell bevezetésével a vállalat célja, hogy a fejlesztők számára olcsóbbá és gyorsabbá tegye az alkalmazások készítését. A GPT-4o mini ára egymillió input tokenenként 15 cent, míg ugyanennyi output tokenért 60 centet kell fizetniük a fejlesztőknek. Ez az ár több mint 60%-kal alacsonyabb, mint az OpenAI korábbi GPT-3.5 Turbo modellje.
Képességek és teljesítmény
Az OpenAI szerint a GPT-4o mini 82%-os eredményt ért el a Massive Multitask Language Understanding (MMLU) teszten, amelyet a nyelvi modellek képességeinek mérésére használnak. Ezzel a GPT-4o Mini lekörözi a Google Gemini Flash 77,9%-os és az Anthropic Claude Haiku 73,8%-os eredményét. Az ingyenes ChatGPT verzió, valamint a Plus és Team előfizetési csomagok felhasználói már hozzáférhetnek az új GPT-4o minihez, míg a vállalati felhasználók jövő héttől kapják meg ezt az új lehetőséget.
Működési területek és alkalmazási lehetőségek
A GPT-4o mini sokféle feladatot képes ellátni alacsony költséggel és késleltetéssel. Ilyen feladatok például az alkalmazások, amelyek több modellhívást láncolnak össze vagy párhuzamosítanak, nagy mennyiségű kontextust adnak át a modellnek, vagy valós idejű szöveges válaszokat nyújtanak az ügyfelek számára, mint például ügyfélszolgálati chatbotok.
A modell jelenleg szöveg- és képtámogatást nyújt az API-ban, és a jövőben a szöveg, kép, videó és hang inputok és outputok támogatása is várható. A modell kontextusablaka 128K token, és egy kérelemnél akár 16K output tokent is támogat, valamint ismeretekkel rendelkezik 2023 októberéig.
Kiváló teljesítmény különböző területeken
A GPT-4o mini több kulcsfontosságú mércén is bizonyította kiválóságát. Jobban teljesít más kisebb modelleknél szöveges intelligencia és multimodális érvelési feladatok terén, és ugyanazokat a nyelveket támogatja, mint a GPT-4o. A modell kiemelkedő teljesítményt nyújt matematikai és kódolási feladatokban is. Az MGSM teszten, amely a matematikai érvelési képességeket méri, a GPT-4o mini 87,0%-ot ért el, szemben a Gemini Flash 75,5%-os és a Claude Haiku 71,7%-os eredményével.
Biztonsági intézkedések
Az OpenAI különös figyelmet fordít a biztonságra. A GPT-4o mini rendelkezik ugyanazokkal a biztonsági intézkedésekkel, mint a GPT-4o, amelyeket mind automatizált, mind emberi értékelésekkel alaposan teszteltek. Több mint 70 külső szakértő tesztelte a modellt, hogy azonosítsa a potenciális kockázatokat, amelyeket az OpenAI kezelni kíván, és részleteit hamarosan megosztja a GPT-4o rendszerkártyában és a Felkészültségi pontszámtáblázatban.
A modell biztonságának javítására új technikákat alkalmaztak, amelyek segítenek ellenállni a jailbreak, prompt injection és rendszer prompt extrakciós támadásoknak. Ezek az intézkedések megbízhatóbbá és biztonságosabbá teszik a modell válaszait, különösen nagy léptékű alkalmazások esetében.
Elérhetőség és a mesterséges intelligencia jövőbeli tervei
A GPT-4o mini mostantól elérhető szöveg- és képmodellként az Assistants API-ban, a Chat Completions API-ban és a Batch API-ban. A fejlesztők 15 centet fizetnek 1M input tokenért és 60 centet 1M output tokenért. A modell finomhangolásának lehetősége is hamarosan elérhetővé válik.
A jövőben az OpenAI célja, hogy tovább csökkentse az AI modellek költségeit és javítsa azok képességeit. A GPT-4o mini példát mutat arra, hogyan lehet hatékony és megfizethető AI alkalmazásokat fejleszteni, amelyek zökkenőmentesen integrálhatók minden alkalmazásba és weboldalba, így az AI a mindennapi digitális élmények részévé válik.
GPT-4o mini: advancing cost-efficient intelligence | OpenAI
Itt az OpenAI újítása: megfizethetőbb és energiatakarékosabb modellt vezettek be – Portfolio.hu
Bemutatkozott az OpenAI GPT-4o mini, a „kistestvér” – ITBUSINESS
Fotó: Andrew Neel: https://www.pexels.com/hu-hu/foto/internet-technologia-szamitogep-logo-15863000/
