Home-theater-designers
„ChatGPT“ yra galingas naujas AI pokalbių robotas, kuris greitai padaro įspūdį, tačiau daugelis žmonių atkreipė dėmesį, kad jame yra keletas rimtų spąstų. Paklauskite visko, kas jums patinka, ir gausite atsakymą, kuris skamba taip, tarsi jį parašė žmogus, savo žinias ir rašymo įgūdžius išmokęs iš daugybės informacijos internete.
kaip ištrinti visus vaizdus „Mac“DIENOS VAIZDO ĮRAŠO PAGALBA
Tačiau, kaip ir internetas, tiesa ir faktai ne visada yra savaime suprantami ir „ChatGPT“ yra kaltas, kad juos suklydo. Kadangi „ChatGPT“ pakeis mūsų ateitį, čia yra keletas didžiausių rūpesčių.
Kas yra ChatGPT?
ChatGPT yra didelis kalbų mokymosi modelis, sukurtas imituoti žmonių pokalbį. Jis gali prisiminti dalykus, kuriuos jai sakei praeityje, ir gali pasitaisyti, kai klysta.
Jis rašo panašiai kaip žmogus ir turi daug žinių, nes buvo apmokytas visokio teksto iš interneto, pvz., Vikipedijos, tinklaraščio įrašų, knygų ir akademinių straipsnių.
Tai lengva išmokti kaip naudotis ChatGPT , tačiau sudėtingiau yra išsiaiškinti, kokios yra didžiausios jo problemos. Štai keletas, kuriuos verta žinoti.
1. „ChatGPT“ ne visada teisingas
Jam nesiseka pagrindinė matematika, atrodo, kad jis negali atsakyti į paprastus loginius klausimus ir netgi gali ginčytis dėl visiškai neteisingų faktų. Kaip gali patvirtinti socialinės žiniasklaidos vartotojai, „ChatGPT“ gali suklysti daugiau nei vieną kartą.
OpenAI žino apie šį apribojimą ir rašo, kad: „ChatGPT kartais rašo patikimai skambančius, bet neteisingus ar nesąmoningus atsakymus“. Ši faktų ir fantastikos „haliucinacija“, kaip ją vadina kai kurie mokslininkai, yra ypač pavojinga, kai kalbama apie tokius dalykus kaip medicininiai patarimai.
Skirtingai nuo kitų AI padėjėjų, tokių kaip „Siri“ ar „Alexa“, „Chat GPT“ nenaudoja interneto atsakymams rasti. Vietoj to, jis konstruoja sakinį žodis po žodžio, pasirinkdamas labiausiai tikėtiną „žetoną“, kuris turėtų būti toliau, remiantis jo mokymu.
Kitaip tariant, „ChatGPT“ pateikia atsakymą atlikdamas daugybę spėjimų, dėl kurių jis gali ginčyti neteisingus atsakymus, tarsi jie būtų visiškai teisingi.
Nors tai puikiai paaiškina sudėtingas sąvokas, todėl tai yra galingas mokymosi įrankis, svarbu netikėti viskuo, kas sakoma. „ChatGPT“ ne visada teisingas – bent jau ne.
2. Į sistemą įtrauktas šališkumas
ChatGPT buvo apmokytas kolektyvinio žmonių rašymo visame pasaulyje, praeities ir dabarties, klausimais. Tai reiškia, kad tie patys poslinkiai, esantys duomenyse, gali atsirasti ir modelyje.
„Google“ apdovanoja, kaip gauti daugiau apklausų
Tiesą sakant, vartotojai parodė, kaip ChatGPT gali pateikti baisius atsakymus, kai kuriuos, pavyzdžiui, diskriminuojančius moteris. Bet tai tik ledkalnio viršūnė; ji gali pateikti atsakymus, kurie yra labai žalingi įvairioms mažumų grupėms.
Taip pat kaltė slypi ne tik duomenyse. OpenAI tyrėjai ir kūrėjai pasirenka duomenis, kurie naudojami mokant ChatGPT. Siekiant padėti išspręsti tai, ką OpenAI vadina „šališku elgesiu“, ji prašo vartotojų pateikti atsiliepimų apie blogus rezultatus.
Dėl galimybės pakenkti žmonėms, galite teigti, kad ChatGPT neturėjo būti paskelbtas viešai, kol šios problemos nebuvo išnagrinėtos ir išspręstos.
Panašus AI pokalbių robotas pavadinimu Sparrow (priklauso Google patronuojančiai įmonei Alphabet) buvo išleistas 2022 m. rugsėjį. Tačiau jis buvo laikomas už uždarų durų, nes buvo panašių rūpesčių, kad gali pakenkti.
Galbūt Meta taip pat turėjo vadovauti įspėjimui. Kai ji išleido „Galactica“ – dirbtinio intelekto kalbos modelį, parengtą remiantis akademiniais darbais, jis greitai buvo prisimintas, kai daugelis žmonių jį kritikavo dėl neteisingų ir šališkų rezultatų.
3. Iššūkis vidurinės mokyklos anglų kalbai
Galite paprašyti „ChatGPT“ perskaityti jūsų raštą arba nurodyti, kaip patobulinti pastraipą. Arba galite visiškai pašalinti save iš lygties ir paprašyti ChatGPT parašyti ką nors už jus.
Mokytojai eksperimentavo su „ChatGPT“ teikdami anglų kalbos užduotis ir gavo atsakymus, geresnius nei daugelis jų mokinių. Nuo motyvacinių laiškų rašymo iki pagrindinių garsaus literatūros kūrinio temų aprašymo – ChatGPT gali tai padaryti nedvejodamas.
Tai kelia klausimą: jei ChatGPT gali rašyti už mus, ar ateityje studentai turės išmokti rašyti? Tai gali atrodyti kaip egzistencinis klausimas, bet kai mokiniai pradės naudoti „ChatGPT“, kad padėtų rašyti savo esė, mokyklos turės greitai sugalvoti atsakymą. Spartus AI diegimas pastaraisiais metais turėtų šokiruoti daugelį pramonės šakų, o švietimas yra tik viena iš jų.
4. Tai gali sukelti realią žalą
Anksčiau minėjome, kaip neteisinga „ChatGPT“ informacija gali sukelti realią žalą, o akivaizdžiausias pavyzdys yra neteisingi medicininiai patarimai.
Yra ir kitų rūpesčių. Suklastotos socialinės žiniasklaidos paskyros kelia didžiulę problemą internete, o įdiegus AI pokalbių robotus, internetinius sukčiavimus būtų lengviau vykdyti. Dar vienas susirūpinimas kelia suklastotos informacijos plitimą, ypač kai „ChatGPT“ net neteisingi atsakymai skamba įtikinamai teisingai.
Greitis, kuriuo ChatGPT gali pateikti ne visada teisingus atsakymus, jau sukėlė problemų Stack Exchange – svetainėje, kurioje vartotojai gali skelbti klausimus ir gauti atsakymus.
Netrukus po jos išleidimo, „ChatGPT“ atsakymai buvo uždrausti svetainėje, nes daugelis jų buvo neteisingi. Jei nebūtų pakankamai savanorių, kurie surūšiuotų atsilikimus, būtų neįmanoma išlaikyti aukštos kokybės atsakymų, o tai sugadintų svetainę.
5. OpenAI turi visą galią
Su didele galia atsiranda didelė atsakomybė, o OpenAI turi daug galios. Tai viena pirmųjų AI kompanijų, iš tikrųjų sukrėtusių pasaulį ne vienu, o keliais AI modeliais, įskaitant Dall-E 2, GPT-3 ir dabar – ChatGPT.
„OpenAI“ pasirenka, kokie duomenys naudojami „ChatGPT“ mokymui ir kaip jis sprendžia neigiamas pasekmes. Nesvarbu, ar sutiksime su metodais, ar ne, ji toliau plėtos šią technologiją pagal savo tikslus.
kaip pakeisti aplanko spalvą „Mac“
Nors „OpenAI“ saugumui laiko didžiausią prioritetą, daug ko nežinome apie tai, kaip kuriami modeliai. Nesvarbu, ar manote, kad kodas turėtų būti atvirojo kodo, ar sutinka, kad dalis jo turėtų būti paslaptyje, mes nieko negalime padaryti.
Galų gale viskas, ką galime padaryti, tai pasitikėti, kad „OpenAI“ atsakingai tirs, kurs ir naudos „ChatGPT“. Arba galime pasisakyti, kad daugiau žmonių pasisakytų, kuria kryptimi turėtų eiti AI, ir pasidalyti AI galia su žmonėmis, kurie jį naudos.
Jei jus domina tai, ką dar sukūrė OpenAI, peržiūrėkite mūsų straipsnius kaip naudoti Dall-E 2 ir kaip naudoti GPT-3 .
Didžiausių AI problemų sprendimas
Yra daug kuo džiaugtis naudojant „ChatGPT“, naujausią „OpenAI“ plėtrą. Tačiau be tiesioginio naudojimo, yra keletas rimtų problemų, kurias verta suprasti.
„OpenAI“ pripažįsta, kad „ChatGPT“ gali pateikti žalingus ir šališkus atsakymus, jau nekalbant apie jo gebėjimą maišyti faktus su fantastika. Naudojant tokią naują technologiją sunku nuspėti, kokios kitos problemos kils. Taigi iki tol mėgaukitės tyrinėdami „ChatGPT“ ir būkite atsargūs ir netikėkite viskuo, kas sakoma.