ChatGPT

kletsbot taalmodel geoptimaliseer vir dialoog

ChatGPT (Generative Pre-trained Transformer[1]) is 'n kunsmatige intelligensie kletsbot wat in November 2022 deur OpenAI bekendgestel is. Dit is gebou bo-op OpenAI se GPT-3.5 en GPT4-families van groot taalmodelle, en is fyn ingestel wat toesig- en versterkingsleertegnieke betref.

Logo van ChatGPT
ChatGPT antwoord op Afrikaans op die vraag oor die kletsbot se waarde vir die mensdom

ChatGPT is op 30 November 2022 as 'n prototipe bekendgestel en het vinnig aandag getrek vir sy gedetailleerde en goed geartikuleerde antwoorde oor baie kennisdomeine. Die ongelyke feitelike akkuraatheid daarvan is egter as 'n beduidende nadeel geïdentifiseer.[2] Na die vrystelling van ChatGPT, is OpenAI se waardasie op VS$29 miljard in 2023 geraam.[3] ChatGPT is oorspronklik in November 2022 vrygestel gebaseer op GPT-3.5; GPT-4, die nuutste OpenAI-model, is op 14 Maart 2023 vrygestel en is beskikbaar vir ChatGPT Plus-gebruikers. ChatGPT is ook in staat om in Afrikaans te kommunikeer (sien skermgreep).

Opleiding wysig

 
Pioneer-gebou, San Francisco, die tuiste van OpenAI se hoofkwartier

ChatGPT is bo-op GPT-3.5 verfyn met behulp van leer onder toesig, benewens versterkingsleer.[4] Beide benaderings het menslike opleiers gebruik om die model se prestasie te verbeter. In die geval van leer onder toesig, is die model voorsien van gesprekke waarin die opleiers albei kante gespeel het: die gebruiker en die KI-assistent. In die versterkingstap het menslike opleiers eers die antwoorde wat die model in 'n vorige gesprek geskep het, gerangskik. Hierdie rangorde is gebruik om 'beloningsmodelle' te skep waarop die model verder verfyn is deur verskeie herhalings van Proksimale Beleidsoptimalisering (PPO) te gebruik.[5][6] Proksimale beleidsoptimeringsalgoritmes bied 'n kostedoeltreffende voordeel om streekbeleidoptimeringsalgoritmes te vertrou; hulle ontken baie van die berekeningsduur bedrywighede met vinniger werkverrigting.[7][8] Die modelle is opgelei in samewerking met Microsoft op hul Azure superrekenaarinfrastruktuur.

Boonop gaan OpenAI voort om data van ChatGPT-gebruikers in te samel wat gebruik kan word om ChatGPT verder op te lei en te verfyn. Gebruikers word toegelaat om die antwoorde wat hulle van ChatGPT ontvang op of af te stem; wanneer hulle op- of afstem, kan hulle ook 'n teksveld met bykomende terugvoer invul.[9][10][11]

Eienskappe en beperking wysig

 
Sam Altman, uitvoerende hoof van OpenAI

Terwyl die kernfunksie van 'n kletsbot is om 'n menslike gespreksgenoot na te boots, het joernaliste ook kennis geneem van ChatGPT se veelsydigheid en improvisasievaardighede, insluitend sy vermoë om rekenaarprogramme te skryf en foute op te spoor; om musiek, telespele, sprokies en studente-opstelle te komponeer; om toetsvrae te beantwoord (soms, afhangend van die toets, op 'n vlak bo die gemiddelde menslike toetsing)[12] to write poetry and song lyrics;[13] om 'n Linux-stelsel na te boots; om 'n hele kletskamer te simuleer; om speletjies soos tik-tak-toe te speel; en om 'n OTM te simuleer.[14]

In vergelyking met sy voorganger, InstructGPT, poog ChatGPT om skadelike en bedrieglike reaksies te verminder;[15] in een voorbeeld, terwyl InstructGPT die opdrag "Vertel my van toe Christopher Columbus in 2015 na die VSA gekom het" as waarheid aanvaar, gebruik ChatGPT inligting oor Columbus se reise en inligting oor die moderne wêreld – insluitend persepsies van Columbus om 'n antwoord te konstrueer wat aanneem wat sou gebeur as Columbus in 2015 na die VSA sou kom.[5] ChatGPT se opleidingsdata sluit bladsye en inligting oor internetverskynsels en programmeertale in, soos bulletinbordstelsels en die Python-programmeertaal.[14] Anders as die meeste ander kletsbotte, onthou ChatGPT vorige interaksie wat in dieselfde gesprek daaraan gegee is; joernaliste het voorgestel dat dit ChatGPT sal toelaat om as 'n persoonlike terapeut gebruik te word.[16] Om te verhoed dat aanstootlike uitsette aan ChatGPT aangebied en geproduseer word, word navrae deur 'n modererings-API gefiltreer,[17][18] en moontlike rassistiese of seksistiese aansporings word van die hand gewys.[5][16]

 
ChatGPT oor die geskiedenis van Afrikaans

ChatGPT het verskeie beperkings. OpenAI het erken dat ChatGPT "soms geloofwaardige, maar verkeerde of onsinnige antwoorde skryf.[5] Die beloningsmodel van ChatGPT, ontwerp rondom menslike toesig, kan oor-geoptimaliseer word en sodoende prestasie belemmer, ook bekend as Goodhart se Wet.[19] Boonop het ChatGPT beperkte kennis van gebeure wat ná 2021 plaasgevind het en is dit nie in staat om inligting oor sommige bekendes te verskaf nie. In die opleiding van ChatGPT het menslike beoordelaars langer antwoorde verkies, ongeag werklike begrip of feitelike inhoud.[5] Opleidingsdata ly ook aan algoritmiese vooroordeel, wat aan die lig gebring kan word wanneer ChatGPT reageer op versoeke, insluitend beskrywing van mense. In een geval het ChatGPT 'n kletsrym gegenereer wat aandui dat vroue en wetenskaplikes van kleur minderwaardig is as wit en manlike wetenskaplikes.[20][21]

Diens wysig

ChatGPT is op 30 November 2022 bekendgestel deur OpenAI, wat in San Francisco gebaseer is, die skepper van DALL·E 2 en Whisper. Dit is aanvanklik as 'n gratis diens aan die publiek van stapel gestuur, met planne om dit later teen betaling aan te bied.[22] Reeds op 4 Desember het OpenAI die getal gebruikers van ChatGPT op meer as een miljoen geskat.[9] CNBC het op 15 Desember 2022 geskryf dat die diens "nog steeds van tyd tot tyd afgaan".[23] Die diens werk die beste in Engels, maar kan ook in sommige ander tale funksioneer, met verskillende mate van sukses.[13] Anders as sommige ander onlangse hoëprofiel-vorderings in KI, is daar teen Desember 2022 geen teken van 'n amptelike eweknie-geëvalueerde tegniese artikel oor ChatGPT nie.[24]

Ontvangs, kritiek en kwessies wysig

Positiewe reaksies wysig

ChatGPT is in Desember 2022 ontvang met oor die algemeen positiewe resensies; Die New York Times het dit bestempel as “die beste kunsmatige intelligensie-kletsbot wat ooit aan die algemene publiek vrygestel is”.[25] Samantha Lock van The Guardian het opgemerk dat dit "indrukwekkend gedetailleerde" en "mensagtige" teks kon genereer.[26] Tegnologieskrywer Dan Gillmor het ChatGPT vir 'n studie-opdrag gebruik, en gevind dat die gegenereerde teks op gelyke voet was met wat 'n goeie student sou lewer en het gemeen dat "die akademie 'n paar baie ernstige kwessies het om te konfronteer".[27] Alex Kantrowitz van Slate het ChatGPT se reaksie op vrae oor Nazi-Duitsland lof toegeswaai. 'n Stelling dat dat Adolf Hitler snelweë in Duitsland gebou het, is naamlik begroet met inligting oor Nazi-Duitsland se aanwending van dwangarbeid.[28]

In The Atlantic se "deurbrake van die jaar" vir 2022, het Derek Thompson ChatGPT ingesluit as deel van "die generatiewe-KI-uitbarsting" wat "ons gedagtes kan verander oor hoe ons werk, hoe ons dink en wat menslike kreatiwiteit werklik is".[29]

 
Google se uitvoerende hoof, Sundar Pichai, het glo die werk van talle interne groepe verander in reaksie op die dreigende ontwrigting deur ChatGPT.[30]

Kelsey Piper van die Vox-webwerf het geskryf dat “ChatGPT die algemene publiek se eerste praktiese inleiding is tot hoe kragtig moderne KI geword het, en gevolglik is baie van ons [verstom]” en dat “ChatGPT slim genoeg is om bruikbaar te wees, ten spyte van sy gebreke”. Paul Graham van Y Combinator het getwiet dat “Die opvallende ding van die reaksie op ChatGPT is nie net die aantal mense wat daardeur verstom word nie, maar wie hulle is. Dit is nie mense wat opgewonde raak deur elke blink nuwe ding nie. Duidelik het iets groot gebeur.”[31] Elon Musk het geskryf dat “ChatGPT "vreesaanjaend goed" is. Ons is nie ver van gevaarlik sterk KI nie”.[32] Musk het OpenAI se toegang tot 'n Twitter-databasis onderbreek in afwagting van 'n beter begrip van OpenAI se planne, en verklaar dat alhoewel OpenAI as "oopbron en nie-winsgewende" onderneming begin is, nie dit nie meer die geval is nie.[33][34] Musk was een van OpenAI se mede-stigters in 2015, deels om die eksistensiële risiko van kunsmatige intelligensie aan te spreek, maar het in 2018 bedank.[34]

In Desember 2022 het Google aanvanklik kommer uitgespreek oor die onverwagte sterkte van ChatGPT en die nuut ontdekte potensiaal van groot taalmodelle om die soekenjinbesigheid te ontwrig. Volgens The New York Times het Sundar Pichai, uitvoerende hoof, spanne in verskeie departemente "opgehef" en hertoegewys om hul eie kunsmatige intelligensie-produkte te bevorder.[30]

Negatiewe reaksies wysig

In 'n Desember 2022-meningstuk het ekonoom Paul Krugman geskryf dat ChatGPT die vraag na kenniswerkers sal beïnvloed.[35] James Vincent van The Verge het die virale sukses van ChatGPT gesien as bewys dat kunsmatige intelligensie hoofstroom geword het.[6] Joernaliste het kommentaar gelewer op ChatGPT se neiging om te hallusineer (deur verskaffing van vals antwoorde met selfvertroue, wat uit die opleidingsdata ongeregverdig blyk).[36] Mike Pearl van Mashable het ChatGPT met verskeie vrae getoets. In een voorbeeld het hy die model gevra vir "die grootste land in Sentraal-Amerika wat nie Mexiko is nie". ChatGPT het met Guatemala geantwoord, toe die antwoord eerder Nicaragua is.[37] Toe CNBC ChatGPT gevra het vir die lirieke van "The Ballad of Dwight Fry", het ChatGPT unieke lirieke verskaf eerder as die werklike lirieke.[23] Navorsers wat deur The Verge aangehaal is, vergelyk ChatGPT met 'n "stogastiese papegaai",[38] soos tewens ook professor Anton Van Den Hengel van die Australiese Instituut vir Masjienleer.[39]

In Desember 2022 het die vraag-en-antwoord-webwerf Stack Overflow die gebruik van ChatGPT vir die generering van antwoorde op vrae verbied, met verwysing na die feitelik dubbelsinnige aard van ChatGPT se antwoorde.[2]

Ekonoom Tyler Cowen het kommer uitgespreek oor die uitwerking daarvan op demokrasie, met verwysing na die vermoë van iemand om geoutomatiseerde opmerkings te skryf in 'n poging om die besluitproses van nuwe regulasies te beïnvloed.[40] The Guardian het bevraagteken of enige inhoud wat op die internet gevind is ná ChatGPT se vrystelling "waarlik vertrou kan word" en het gevra vir regeringsregulering.[41]

Axe Sharma van Bleeping Computer het opgemerk dat ChatGPT in staat was om wanware en uitvissing-e-posse te skryf.[42] Die HUB van ChatGPT-skepper OpenAI, Sam Altman, het geskryf dat die bevordering van sagteware "[byvoorbeeld] 'n groot kuberveiligheidsrisiko" kan inhou en het ook voortgegaan om te voorspel dat "ons in die volgende dekade by werklike kunsmatige algemene intelligensie kan uitkom, en die risiko daarvan aldus uiters ernstig moet opneem".[9]

Verwysings wysig

  1. Roose, Kevin (5 Desember 2022). "The Brilliance and Weirdness of ChatGPT" (HTML) (in Engels (VSA)). New York Times. Besoek op 26 Desember 2022. Like those tools, ChatGPT — which stands for "generative pre-trained transformer" — landed with a splash.{{cite web}}: AS1-onderhoud: url-status (link)
  2. 2,0 2,1 Vincent, James (5 Desember 2022). "AI-generated answers temporarily banned on coding Q&A site Stack Overflow" (HTML). The Verge (in Engels (VSA)). Besoek op 5 Desember 2022.{{cite web}}: AS1-onderhoud: url-status (link)
  3. Varanasi, Lakshmi (5 Januarie 2023). "ChatGPT creator OpenAI is in talks to sell shares in a tender offer that would double the startup's valuation to $29 billion". Insider. Geargiveer vanaf die oorspronklike op 18 Januarie 2023. Besoek op 18 Januarie 2023.
  4. "Augmenting Reinforcement Learning with Human Feedback"., University of Texas at Austin. 
  5. 5,0 5,1 5,2 5,3 5,4 OpenAI (30 November 2022). "ChatGPT: Optimizing Language Models for Dialogue" (HTML) (in Engels (VSA)). Besoek op 5 Desember 2022.{{cite web}}: AS1-onderhoud: url-status (link)
  6. 6,0 6,1 Vincent, James (8 Desember 2022). "ChatGPT proves AI is finally mainstream – and things are only going to get weirder" (HTML). The Verge (in Engels (VSA)). Besoek op 8 Desember 2022.{{cite web}}: AS1-onderhoud: url-status (link)
  7. Schulman, John; Wolski, Filip; Dhariwal, Prafulla; Radford, Alec; Klimov, Oleg (2017). "Proximal Policy Optimization Algorithms". [cs.LG]. 
  8. van Heeswijk, Wouter (29 November 2022). "Proximal Policy Optimization (PPO) Explained". Towards Data Science (in Engels (VSA)). Besoek op 5 Desember 2022.{{cite web}}: AS1-onderhoud: url-status (link)
  9. 9,0 9,1 9,2 "What is ChatGPT and why does it matter? Here's what you need to know". ZDNET (in Engels). 2022. Besoek op 18 Desember 2022.
  10. "ChatGPT Feedback Contest: Official Rules" (PDF). OpenAI. Besoek op 30 Desember 2022.
  11. "Help OpenAI improve ChatGPT and get a chance to win $500". Geek Culture (in Engels). Medium (blogging website). 15 Desember 2022. Besoek op 30 Desember 2022.
  12. Heilweil, Rebecca (7 Desember 2022). "AI is finally good at stuff. Now what?". Vox (in Engels). Besoek op 30 Desember 2022.
  13. 13,0 13,1 "ChatGPT: What is the new free AI chatbot? - explainer". The Jerusalem Post. 2022. Besoek op 30 Desember 2022.
  14. 14,0 14,1 Edwards, Benj (5 Desember 2022). "No Linux? No problem. Just get AI to hallucinate it for you". Ars Technica. Besoek op 5 Desember 2022.
  15. "What is ChatGPT? History, Features, Uses, Benefits, Drawbacks 2023 - Updated Geek by Raveen Chawla" (in Engels (VSA)). 26 Desember 2022. Besoek op 27 Desember 2022.
  16. 16,0 16,1 Roose, Kevin (5 Desember 2022). "The Brilliance and Weirdness of ChatGPT". The New York Times. Besoek op 5 Desember 2022.
  17. "New and Improved Content Moderation Tooling". OpenAI (in Engels). 10 Augustus 2022. Besoek op 30 Desember 2022.
  18. Markov, Todor; Zhang, Chong; Agarwal, Sandhini; Eloundou, Tyna; Lee, Teddy; Adler, Steven; Jiang, Angela; Weng, Lilian (5 Augustus 2022). "A Holistic Approach to Undesired Content Detection in the Real World". arXiv:2208.03274 [cs]. Besoek op 30 Desember 2022.
  19. Gao, Leo; Schulman; Hilton, Jacob (2022). "Scaling Laws for Reward Model Overoptimization". [cs.LG]. 
  20. Perrigo, Billy (5 Desember 2022). "AI Chatbots Are Getting Better. But an Interview With ChatGPT Reveals Their Limits". Time. Besoek op 26 Desember 2022.
  21. Biddle, Sam (8 Desember 2022). "The Internet's New Favorite AI Proposes Torturing Iranians and Surveilling Mosques". The Intercept. Besoek op 26 Desember 2022.
  22. Karpf, David (21 Desember 2022). "Money Will Kill ChatGPT's Magic". The Atlantic (in Engels). Besoek op 31 Desember 2022.
  23. 23,0 23,1 Pitt, Sofia (2022). "Google vs. ChatGPT: Here's what happened when I swapped services for a day". CNBC (in Engels). Besoek op 18 Desember 2022.
  24. Walsh, Toby (2022). "Everyone's having a field day with ChatGPT – but nobody knows how it actually works". The Conversation (in Engels). Besoek op 30 Desember 2022.
  25. Roose, Kevin (5 Desember 2022). "The Brilliance and Weirdness of ChatGPT". The New York Times. Besoek op 18 Desember 2022.
  26. Lock, Samantha (5 Desember 2022). "What is AI chatbot phenomenon ChatGPT and could it replace humans?". The Guardian. Besoek op 5 Desember 2022.
  27. Hern, Alex (4 Desember 2022). "AI bot ChatGPT stuns academics with essay-writing skills and usability". The Guardian. Besoek op 5 Desember 2022.
  28. Kantrowitz, Alex (2 Desember 2022). "Finally, an A.I. Chatbot That Reliably Passes "the Nazi Test"". Slate. Besoek op 5 Desember 2022.
  29. Thompson, Derek (8 Desember 2022). "Breakthroughs of the Year". The Atlantic. Besoek op 18 Desember 2022.
  30. 30,0 30,1 Grant, Nico; Metz, Cade (21 Desember 2022). "A New Chat Bot Is a 'Code Red' for Google's Search Business". The New York Times. Besoek op 30 Desember 2022.
  31. Scharth, Marcel. "The ChatGPT chatbot is blowing people away with its writing skills. An expert explains why it's so impressive". The Conversation (in Engels). Besoek op 30 Desember 2022.
  32. Piper, Kelsey (15 Desember 2022). "ChatGPT has given everyone a glimpse at AI's astounding progress". Vox (in Engels). Besoek op 18 Desember 2022.
  33. "Explainer: ChatGPT - what is OpenAI's chatbot and what is it used for?". Reuters (in Engels). 5 Desember 2022. Besoek op 30 Desember 2022.
  34. 34,0 34,1 Kay, Grace (11 Desember 2022). "Elon Musk founded — and has since criticized — the company behind the buzzy new AI chatbot ChatGPT. Here's everything we know about OpenAI". Business Insider. Besoek op 30 Desember 2022.
  35. Krugman, Paul (6 Desember 2022). "Does ChatGPT Mean Robots Are Coming For the Skilled Jobs?" (HTML). The New York Times. Besoek op 6 Desember 2022.
  36. "ChatGPT a 'landmark event' for AI, but what does it mean for the future of human labour and disinformation?". CBC. 2022. Besoek op 18 Desember 2022.
  37. Pearl, Mike (3 Desember 2022). "The ChatGPT chatbot from OpenAI is amazing, creative, and totally wrong". Mashable. Besoek op 5 Desember 2022.
  38. Vincent, James (1 Desember 2022). "OpenAI's new chatbot can explain code and write sitcom scripts but is still easily tricked". The Verge. Besoek op 18 Desember 2022.
  39. Mannix, Liam (13 Desember 2022). "Is AI coming of age - or starting to reach its limits?". The Sydney Morning Herald (in Engels). Besoek op 18 Desember 2022.
  40. Cowen, Tyler (6 Desember 2022). "ChatGPT Could Make Democracy Even More Messy". Bloomberg News. Besoek op 6 Desember 2022.
  41. "The Guardian view on ChatGPT: an eerily good human impersonator". the Guardian (in Engels). 8 Desember 2022. Besoek op 18 Desember 2022.
  42. Sharma, Ax (6 Desember 2022). "OpenAI's new ChatGPT bot: 10 dangerous things it's capable of". Bleeping Computer. Besoek op 6 Desember 2022.