Modele deschise vs. modele închise: Liderii în domeniul inteligenței artificiale de la GM, Zoom și IBM analizează compromisurile pentru utilizarea în cadrul întreprinderilor

Decizia privind Modele de inteligență artificială este o decizie atât tehnică, cât și strategică. Însă alegerea modelelor deschise, închise sau hibride prezintă toate compromisuri.

În cadrul discursului acordat la VB Transform din acest an, experți în arhitectură de modele de la General Motors, Zoom și IBM au discutat despre modul în care companiile și clienții lor iau în considerare selecția modelelor de inteligență artificială.

Barak Turovsky, care în martie a devenit primul director de inteligență artificială al GM, a declarat că există mult zgomot cu fiecare lansare de model nou și de fiecare dată când se schimbă clasamentul. Cu mult înainte ca clasamentele să fie o dezbatere generală, Turovsky a contribuit la lansarea primului model de limbaj mare (LLM) și a reamintit modul în care ponderile modelelor de inteligență artificială și datele de antrenament open-source au dus la descoperiri majore.

„Sincer, aceasta a fost probabil una dintre cele mai mari descoperiri care au ajutat OpenAI și alte companii să înceapă să se lanseze”, a spus Turovsky. „Deci, este de fapt o anecdotă amuzantă: Open-source-ul a ajutat de fapt la crearea a ceva ce a devenit închis și acum poate a revenit la orizont.”

Factorii care iau decizii variază și includ costul, performanța, încrederea și siguranța. Turovsky a spus că întreprinderile preferă uneori o strategie mixtă - utilizând un model deschis pentru uz intern și un model închis pentru producție și relaționarea cu clienții sau invers. 

[conținut încorporat]

>>Vedeți toată acoperirea noastră despre Transform 2025 aici<

Strategia IBM privind inteligența artificială

Armand Ruiz, vicepreședintele IBM pentru platforma de inteligență artificială, a declarat că IBM și-a lansat inițial platforma cu... propriile masterate în masterat, dar apoi și-au dat seama că nu va fi suficient - mai ales pe măsură ce modele mai puternice au apărut pe piață. Compania s-a extins apoi pentru a oferi integrări cu platforme precum Hugging Face, astfel încât clienții să poată alege orice model open-source. (Compania a lansat recent un nou model poartă de acces care oferă întreprinderilor o API pentru comutarea între LLM-uri.) 

Tot mai multe companii aleg să cumpere mai multe modele de la mai mulți furnizori. Când Andreessen Horowitz chestionat 100 de directori IT, 37% dintre respondenți, au declarat că utilizează 5 sau mai multe modele. Anul trecut, doar 29% utilizau aceeași cantitate.

„Alegerea este esențială, dar uneori prea multe opțiuni creează confuzie”, a spus Ruiz. „Pentru a-i ajuta pe clienți cu abordarea lor, IBM nu se preocupă prea mult de ce LLM utilizează în timpul fazei de demonstrare a conceptului sau a fazei pilot; obiectivul principal este fezabilitatea. Abia mai târziu încep să analizeze dacă să distileze un model sau să personalizeze unul în funcție de nevoile clientului.”

„Mai întâi încercăm să simplificăm toată paralizia analitică cu toate aceste opțiuni și să ne concentrăm pe cazul de utilizare”, a spus Ruiz. „Apoi ne dăm seama care este cea mai bună cale pentru producție.”

Cum abordează Zoom inteligența artificială

Clienții Zoom pot alege între două configurații pentru AI Companion, a declarat Xuedong Huang, CTO Zoom. Una implică federarea propriului LLM al companiei cu alte modele de bază mai mari. O altă configurație permite clienților îngrijorați de utilizarea prea multor modele să utilizeze doar modelul Zoom. (Compania a încheiat recent un parteneriat cu Google Cloud pentru a adopta un protocol agent-agent pentru AI Companion destinat fluxurilor de lucru la nivel de întreprindere.)

Compania și-a creat propriul model de limbaj mic (SLM) fără a utiliza datele clienților, a spus Huang. Cu 2 miliarde de parametri, LLM este de fapt foarte mic, dar poate depăși în continuare alte modele specifice industriei. SLM funcționează cel mai bine în sarcini complexe atunci când lucrează alături de un model mai mare. 

„Aceasta este cu adevărat puterea unei abordări hibride”, a spus Huang. „Filosofia noastră este foarte simplă. Compania noastră este deschizătoare de drumuri, la fel cum Mickey Mouse și elefantul dansează împreună. Modelul mic va îndeplini o sarcină foarte specifică. Nu spunem că un model mic va fi suficient de bun... Mickey Mouse și elefantul vor lucra împreună ca o singură echipă.”