Olivier Godement, șeful departamentului de produs pentru sistemul API OpenAI, a oferit o perspectivă din culise asupra modului în care grupurile de afaceri adoptă și implementează funcționari din domeniul inteligenței artificiale la scară largă, în cadrul evenimentului Transform 2025 al VentureBeat.
API-ul Actions și SDK-ul Agents, actualul director OpenAI API, au făcut obiectul unei discuții de 20 de minute, găzduită în întregime de Godement, care a dezvăluit API-ul Responses și cele mai recente instrumente pentru dezvoltatori, prezentând în același timp exemple de utilizatori timpurii, cum ar fi Stripe și Box, modele practice, considerații de siguranță și exemple de rentabilitate a costurilor.
Iată cele mai importante 8 informații pentru liderii de afaceri care nu pot participa la programul Life.
Brokerii trec rapid de la producție la prototip
Godement consideră că modul în care inteligența artificială este utilizată la scară largă se va schimba semnificativ în 2025. Cu peste un milion de dezvoltatori activi la nivel mondial care utilizează platforma API OpenAI în fiecare lună și o creștere anuală de 70.130 de miliarde de dolari a utilizării token-urilor, inteligența artificială depășește limita experimentării.
„Ultimii cinci ani au fost destul de agitați”, spune un utilizator care a precizat: „Au trecut cinci ani de când am lansat, practic, GPT-3”.
Godement a subliniat că roboții nu mai sunt singurul lucru la cerere în zilele noastre. „Cazurile de utilizare artificiale trec de la întrebări și răspunsuri de bază la scenarii de utilizare reale în care aplicația, brokerul, tu faci lucruri pentru tine.”
Ca răspuns la această schimbare, OpenAI a lansat în martie două resurse importante destinate dezvoltatorilor: Actions API și SDK pentru agenți.
Când ar trebui să aplicați arhitecturi de agenți singulari față de arhitecturi de sub-agenți?
Un concept semnificativ a fost alegerea arhitecturii. Potrivit lui Godement, buclele cu un singur agent, care încapsulează întreaga introducere a instrumentului și contextul într-un singur model, sunt teoretic elegante, dar adesea impracticabile la scară largă.
Este o provocare să creezi agenți unici exacți și de încredere. Chiar este dificil.
Echipele trec frecvent către arhitecturi flexibile cu anumiți subagenți pe măsură ce complexitatea crește - mai multe instrumente, inputuri de utilizator mai fezabile și mai multă logică.
„Poți finaliza izolarea problemelor ca în software”, conform practicii ajunse, care este de a împărți efectiv agenții în mai mulți subagenți.
Acești subagenți acționează similar membrilor unei echipe mici: agenții de nivel unu se ocupă de problemele de rutină, agenții de nivel unu se ocupă de problemele de rutină, iar alții escaladează sau rezolvă cazurile extreme.
De ce este API-ul Responses o schimbare radicală?
API-ul Responses a fost primul pas al Godement în dezvoltarea instrumentelor pentru dezvoltatori. Anterior, dezvoltatorii aranjau manual secvențele de apeluri de model. Această orchestrare este acum gestionată intern.
API-ul Responses este, probabil, cel mai mare strat nou de abstractizare pe care l-am creat de la GPT-3 încoace.
Dezvoltatorii își pot exprima intențiile fără a fi nevoiți să creeze pur și simplu fluxuri de model. API-ul Response gestionează, în esență, această buclă, spunând: „Vă interesează să returnați clientului un răspuns foarte bun”.
De asemenea, include instrumente încorporate pentru fluxurile de lucru ale agenților în lumea reală, cum ar fi recuperarea cunoștințelor, căutarea pe web și apelarea funcțiilor.
Securitatea și observabilitatea sunt componente ale tuturor lucrurilor.
Cele două preocupări principale au fost securitatea și conformitatea. Godement a menționat măsuri de siguranță cheie care permit utilizarea stivei OpenAI în industrii reglementate, precum finanțele și asistența medicală:
- Decizii de refuz bazate pe o politică
- Înregistrare în jurnal SOC-2
- Suport pentru rezidența datelor
Godement vede cea mai mare diferență între demonstrație și producție în departamentul de evaluare.
„Cred că evaluarea modelelor este probabil cel mai mare blocaj în calea adoptării pe scară largă a inteligenței artificiale”, cred eu.
Pentru a ajuta echipele să definească ce înseamnă succesul și să urmărească comportamentul agenților în timp, OpenAI include acum instrumente de urmărire și evaluare în stiva API.
Este foarte dificil să dezvolți acea încredere, acea asigurare că modelul este precis și fiabil, dacă nu investești în evaluare.
ROI-ul timpuriu este remarcabil în mai multe funcții
Unele cazuri de utilizare la nivel de întreprindere produc deja avantaje tangibile. Godement a oferit exemple din:
- Stripe, care folosește agenți pentru a accelera procesarea facturilor, raportează „o rezoluție mai rapidă a facturilor de 35 %”.
- Cutie, producătorul asistenților de cunoștințe care permit „trierea biletelor fără atingere”
Asistența pentru clienți (inclusiv cea vocală), guvernanța internă și asistenții de cunoștințe pentru navigarea prin documentația lungă sunt alte cazuri de utilizare de mare valoare.
Ce este necesar pentru a începe producția
Godement a subliniat importanța oamenilor în desfășurările eficiente.
„Ori de câte ori văd o problemă și o tehnologie, există o mică minoritate de oameni foarte experimentați care se avântă asupra ei.”
Acești campioni interni nu provin întotdeauna din inginerie. Au perseverență, ceea ce îi unește.
„Bine, cum pot face să funcționeze?” este prima lor reacție.
Acest grup, care a susținut utilizarea timpurie a ChatGPT în întreprinderi și experimentează acum cu sisteme complete de agenți, este responsabil pentru multe implementări inițiale pentru OpenAI.
De asemenea, a subliniat o lacună pe care mulți oameni o trec cu vederea: cunoștințele în domeniu. Inginerii nu sunt sursa cunoștințelor într-o organizație. Echipele operaționale sunt responsabile de acestea.
Facerea instrumentelor de construire a agenților accesibile celor care nu sunt dezvoltatori este o provocare pe care OpenAI își propune să o depășească.
Ce urmează pentru agenții Enterprise?
Godement a oferit o scurtă prezentare a foii de parcurs. OpenAI dezvoltă activ:
- agenți multimodali care pot comunica prin date structurate, voce, text, imagini și voce.
- Memoria pe termen lung pentru reținerea cunoștințelor pe parcursul sesiunilor
- Orchestrare cross-cloud pentru a susține medii IT complexe și distribuite
Acestea sunt straturi iterative care extind ceea ce este deja posibil, nu schimbări radicale. „Când vom avea modele care pot gândi timp de minute, timp de ore, nu doar pentru câteva secunde”, spune inginerul, „vor apărea niște cazuri de utilizare destul de uluitoare.”
Gând final: Modelele de raționament sunt supraevaluate
Godement a încheiat sesiunea reafirmându-și convingerea că modelele capabile de raționament, adică cele care pot reflecta înainte de a răspunde, vor fi adevărații catalizatori ai schimbării pe termen lung.
„Încă am încredere că acele modele au aproximativ nivelul de maturitate GPT-2 sau GPT-3.” Ceea ce pot face modelele de raționament este doar o mică parte.
Mesajul către factorii de decizie din cadrul întreprinderilor este clar: infrastructura pentru automatizarea agențică este prezentă. Construirea unui caz de utilizare specific, responsabilizarea echipelor interfuncționale și pregătirea pentru iterație sunt acum ceea ce contează. Nu în demonstrații inovatoare, ci în sisteme durabile, modelate după cerințele lumii reale și disciplina operațională necesară pentru a le face de încredere, se află următorul pas în crearea de valoare.
Romanian 
English 