Kunnen krakkemikkige, gedecentraliseerde, open-source kunstmatige intelligentie modellen concurreren met goed gefinancierde propriëtaire modellen zoals OpenAI’s krachtige GPT-4? De veelgestelde vraag leidde tot een levendig debat op Twitter nadat een voormalig Google AI-onderzoeker een kant koos.
Arnaud Benard, medeoprichter van Galileo AI, gooide de handschoen op en zei: “Als je denkt dat open-source modellen GPT-4 dit jaar zullen verslaan, heb je het mis.” Hij noemde het talent en de middelen van OpenAI en de robuustheid van GPT-4 als een product dat verder gaat dan een LLM, en beweerde dat open-source projecten wel eens moeite zouden kunnen hebben om zich te ontwikkelen van uitdagers tot AI-kampioenen.
als je denkt dat open-source modellen dit jaar gpt-4 zullen verslaan, heb je het mis.
Ik heb bij de beste ai onderzoekslaboratoria gewerkt (google ai) en heb open-source bibliotheken gebouwd met ☻ 5M maandelijkse downloads.
gpt-4 is een jaar oud en tot nu toe kan geen enkel model het evenaren:
1. talent – openai aangeworven…
– Arnaud Benard (@arnaudai) Januari 1, 2024
Niet verrassend leidde Benards tweet tot gemengde reacties, variërend van luidruchtige steun tot felle onenigheid.
Ryan Casey, een populaire AI-enthousiasteling die de nieuwsbrief “Beyond The Yellow Woods” schrijft, was optimistischer over het potentieel van open source AI en stelde: “Open source zal [privémodellen] dit jaar evenaren of verslaan”, volgens zijn berekeningen. “Als er vraag naar is, zal er innovatie zijn.”
Eh, ik denk dat open source dit jaar zal evenaren of overtreffen. pic.twitter.com/y99qKJ2iKF
– Ryan Casey (@ryansweb) Januari 1, 2024
Aan de andere kant merkte AI-strateeg Jeremi Traguna op dat “OpenAI’s modellen blijven bewegen” en voegde eraan toe dat “open source modellen het moeilijk zullen hebben om een bewegend doelwit te raken op het moment dat het doelwit zich in de positie bevindt om geraakt te worden”. Met andere woorden, terwijl open-source modellen misschien GPT-3.5 inhalen in het tijdperk van GPT-4, kan er een GPT-5 zijn tegen de tijd dat we generalistische LLM’s hebben die vergelijkbaar zijn met GPT-4.5 Turbo.
Een technisch analist, Jon Howells, gelooft dat middelen niet de enige standaard zijn die open van closed-source LLM’s scheidt.
“Mistral heeft enorme financiële middelen, een geweldig team en heeft onlangs een GPT-3.5-beat open-source model uitgebracht,” schreef hij. “Zij of een vergelijkbaar bedrijf zullen tegen het einde van dit jaar een GPT-4 open-source model uitbrengen.”
Mistral AI, een Franse startup, heeft erkenning gekregen na het uitbrengen van zijn Mixtral LLM, dat in veel gebruikssituaties betere prestaties biedt dan GPT-3.5.
In een threaded discussie maakte Nous Research medeoprichter “Teknium” een belangrijk, maar filosofisch punt. “Elke toename van mogelijkheden in OS (Open Source) is een blijvend iets dat nooit van de wereld kan worden weggenomen dat voor altijd betrouwbaar kan worden gebruikt,” zei hij. Het komt erop neer dat zolang er enige vooruitgang is in open-source AI-technologie, geen enkel bedrijf de toegang daartoe kan beperken.
Ik introduceerde samen en mistral, geen van beide partijen is er kwaad over fwiw. Maar in deze post had hij gezegd dat geen enkel OS-model GPT-4 zal verslaan, maar GPT-4 zal oud nieuws zijn – waarschijnlijk dit jaar – het duurde niet lang voordat we 3.5 versloegen en de CEO van Mistral zei dat hij van plan is een GPT4-niveau Open uit te brengen…
– Teknium (e/λ) (@Teknium1) januari 1, 2024
Open of gesloten? Een eindeloos debat
Het open-source versus closed-source debat doet denken aan de vroege gevechten tussen besturingssystemen Windows en Linux. Santiago Pino van ML School schreef dat propriëtaire AI-modellen het misschien winnen van algemene consumenten zoals Windows dat deed, maar dat open-source software maatwerk en controle biedt die zeer nuttig kunnen zijn voor zakelijke gebruikers.
Pino benadrukte hoe veel bedrijven beginnen te experimenteren met ChatGPT, maar vervolgens migreren naar open-source modellen, die ze kunnen afstemmen en aanpassen aan hun specifieke behoeften en de compliance-eisen voor gegevens. Open-source oplossingen vermijden vendor lock-in en bieden transparantie, zei hij.
“Gesloten, propriëtaire modellen kunnen individuen overtuigen, maar de meeste bedrijven willen hun gegevens niet naar Microsoft of Google sturen. Ze willen controle. Open-source modellen zijn het antwoord,” zei hij in een tweet enkele dagen voordat Bernard’s thread viraal ging.
Open-source modellen zullen ChatGPT en Gemini vernietigen.
Het verhaal van open-source modellen voor grote talen is het verhaal van Linux. Windows en Mac wonnen van de consumenten, maar Linux werd het besturingssysteem van het internet.
Hetzelfde zal gebeuren met ChatGPT, Gemini en open-source modellen. Gesloten,… pic.twitter.com/fdmS1VNtqf
– Santiago (@svpino) December 22, 2023
Deze visie werd gedeeld in het debat over Bernards tweet door Sciumo Inc., een softwareontwikkelingsbedrijf, dat het nichepotentieel van openbronmodellen benadrukte: “(Open-source modellen) zullen concurreren waar het er toe doet: domeinspecifieke problemen met domeinspecifieke gegevens en expertise die (OpenAI) niet heeft.”
Furkan Gözükara, een computeringenieur die bekend is van zijn YouTube-kanaal SECourses, behoort ook tot degenen met een genuanceerder standpunt. In een gesprek met TCN was hij het eens met Bernard en zei dat “alleen bij specifieke taken Open Source LLM’s OpenAI zullen passeren.”
Gözükara geeft het voorbeeld van een bedrijf dat “LLM’s traint op (zijn) eigen documenten.” Ja, OpenAI heeft de mogelijkheid om GPT’s aan te passen op basis van specifieke instructies en documenten, maar het omgaan met gevoelige gegevens aan derden is altijd een punt van zorg. Die zorg werd onlangs bevestigd toen werd onthuld dat gepersonaliseerde GPT’s gevoelige gegevens weggaven aan externe gebruikers.
Yan Lecun, Meta’s hoofd van AI-ontwikkeling en een fervent verdediger van open source, heeft herhaaldelijk verklaard dat “open-source AI-stichtingsmodellen gesloten en propriëtaire AI-modellen zullen uitroeien”. Google, een andere AI-gigant, erkent ook de bedreiging van open-source AI: “Open-source modellen zijn sneller, meer aanpasbaar, meer privé en pound-for-pound meer capabel,” aldus een uitgelekte memo van Google in 2023.
Het valt nog te bezien of open-source modellen GPT-4 en toekomstige iteraties dit jaar zullen evenaren of overtreffen. De perspectieven van experts aan beide kanten onthullen echter een intrigerende spanning. Gesloten modellen hebben misschien een voordeel wat betreft middelen en snelle iteratie, maar open source tools ontwikkelen zich snel en bieden permanente mogelijkheden en aanpasbaarheid. Voorlopig kan de AI-gemeenschap toekijken hoe de competitie zich ontvouwt en genieten van de voordelen van het gebruik van de beste technologie die beschikbaar is.
