OpenAI:s konversations-AI-bot ChatGPT lanserades förra året och har blivit superpopulär i rekordfart tack vare dess förmåga att skriva berättelser, skriva e-postmeddelanden och till och med generera код (ibland, tyvärr, till och med skadligt). En ny rapport tyder dock på att det kostar OpenAI en förmögenhet att hålla den igång från dag till dag.
Enligt forskning från SemiAnalysis spenderar OpenAI nästan $695 XNUMX per dag för att underhålla chatt bot i fungerande skick. Enligt företagets uppskattningar inkluderar systemet cirka 3,6 tusen HGX A100-servrar och nästan 29 tusen GPU:er, och kostnaden per förfrågan är cirka ¢ 0,36.
Dylan Patel, huvudanalytiker på SemiAnalysis, sa till Business Insider att de nuvarande kostnaderna för att köra programvaran kan bli ännu högre, eftersom GPT-4-versionen sannolikt kommer att bli dyrare att köra än sin föregångare, GPT-3. Han baserade sina uppskattningar på den tidigare GPT-3-modellen, men OpenAI har redan släppt en version GPT-4 för betalda prenumeranter. Företaget hävdar att den nya modellen erbjuder mer exakt information och bättre skyddar mot felaktiga svar, vilket var ett problem med tidigare versioner.
En av huvudorsakerna till de orimliga kostnaderna är de energikrävande specialiserade chips som krävs för att driva systemet. För att lösa det här problemet, Microsoft arbetar på ett eget chip för artificiell intelligens som heter Athena som kan ersätta GPU:er NVIDIA och minska driftskostnaderna för ChatGPT.
Samtidigt kan ChatGPT redan generera funktionell kod från grunden, och det väcker till och med farhågor för att det så småningom kan ersätta programmerare. En nyligen genomförd studie av en grupp forskare tyder dock på att chatbot-genererad kod kanske inte är särskilt säker. Studien säger att ChatGPT genererar kod som är "avsevärt under de minimisäkerhetsstandarder som är tillämpliga i de flesta situationer." Mest intressant är att chatboten erkänner detta på frågan om hur säker koden den genererar är.
För att kontrollera kvaliteten på kodningen ChatGPT, bad forskarna honom att generera 21 program och skript med fyra programmeringsspråk: C, C++, Python och Java. Vid sitt första försök kunde chatboten bara skriva 5 säkra program, men efter lite uppmaning från forskarna skapade den 7 säkrare kodbitar. Resultaten av studien tyder på att att använda ChatGPT för att skriva applikationer kan vara ineffektivt eller till och med farligt nu, men detta kan förändras i framtiden.
Läs också:
Wow siffror för en gratis neuron!
I mitt liv skulle jag aldrig ha trott att det är så dyrt...
Jag blev också förvånad. Jag är till och med lite obekväm nu Öppna ChatGPT - jag kommer fortfarande att belasta det med mina förfrågningar)