Home-theater-designers
ChatGPT on võimas uus AI-vestlusbot, mis jätab muljet kiiresti, kuid paljud inimesed on märkinud, et sellel on tõsiseid lõkse. Küsige sellelt kõike, mis teile meeldib, ja saate vastuse, mis kõlab nii, nagu oleks selle kirjutanud inimene, olles õppinud oma teadmised ja kirjutamisoskused tohutul hulgal Internetis leiduvast teabest.
PÄEVA VIDEO MAKKEUSE
Nii nagu Internet, ei ole tõde ja faktid alati iseenesestmõistetavad ning ChatGPT on süüdi selles, et need valesti läksid. Kuna ChatGPT on seatud meie tulevikku muutma, on siin mõned suurimad murekohad.
kuidas MacBook Pro külmutamisel taaskäivitada
Mis on ChatGPT?
ChatGPT on suur keeleõppemudel, mis on loodud inimeste vestluse jäljendamiseks. Ta suudab meeles pidada asju, mida olete talle varem öelnud, ja on võimeline end parandama, kui see eksib.
See kirjutab inimlikul viisil ja sellel on palju teadmisi, sest seda õpetati igasuguse Interneti-teksti, näiteks Vikipeedia, ajaveebipostituste, raamatute ja akadeemiliste artiklite kohta.
Seda on lihtne õppida kuidas kasutada ChatGPT-d , kuid keerulisem on välja selgitada, millised on selle suurimad probleemid. Siin on mõned, mida tasub teada.
1. ChatGPT pole alati õige
See ei suuda matemaatika põhioskusi, näib, et see ei suuda vastata lihtsatele loogikaküsimustele ja läheb isegi nii kaugele, et vaidlustab täiesti valesid fakte. Nagu sotsiaalmeedia kasutajad võivad kinnitada, võib ChatGPT rohkem kui ühel korral eksida.
OpenAI teab sellest piirangust, kirjutades, et: 'ChatGPT kirjutab mõnikord usutavalt kõlavaid, kuid ebaõigeid või mõttetuid vastuseid.' See faktide ja väljamõeldiste 'hallutsinatsioon', nagu mõned teadlased seda nimetavad, on eriti ohtlik, kui tegemist on meditsiinilise nõuandega.
Erinevalt teistest AI-assistentidest, nagu Siri või Alexa, ei kasuta Chat GPT vastuste leidmiseks Internetti. Selle asemel koostab see lause sõna-sõnalt, valides koolituse põhjal välja kõige tõenäolisema 'märgi', mis peaks järgmisena tulema.
Teisisõnu, ChatGPT jõuab vastuseni, tehes mitmeid oletusi, mis on osa põhjusest, miks ta võib valede vastuste vastu vaielda, nagu oleksid need täiesti tõesed.
Kuigi see on suurepärane keeruliste mõistete selgitamisel, muutes selle võimsaks õppimisvahendiks, on oluline mitte uskuda kõike, mida see ütleb. ChatGPT ei ole alati õige – vähemalt mitte veel.
2. Süsteemi sisestatakse eelarvamus
ChatGPT-d õpetati inimeste kollektiivseks kirjutamiseks kogu maailmas, minevikus ja olevikus. See tähendab, et samad eelarvamused, mis on andmetes, võivad ilmneda ka mudelis.
Tegelikult on kasutajad näidanud, kuidas ChatGPT võib anda kohutavaid vastuseid, näiteks selliseid, mis diskrimineerivad naisi. Kuid see on vaid jäämäe tipp; see võib anda vastuseid, mis on paljudele vähemusrühmadele äärmiselt kahjulikud.
Süüd ei peitu ka lihtsalt andmetes. OpenAI teadlased ja arendajad valivad andmed, mida ChatGPT koolitamiseks kasutatakse. Et aidata lahendada seda, mida OpenAI nimetab 'kallutatud käitumiseks', palub see kasutajatel anda tagasisidet halbade väljundite kohta.
Kuna ChatGPT võib inimestele kahju tekitada, ei oleks tohtinud enne nende probleemide uurimist ja lahendamist avalikustada.
Sarnane AI-vestlusbot nimega Sparrow (kuulub Google'i emaettevõttele Alphabet) ilmus 2022. aasta septembris. Seda hoiti aga suletud uste taga, kuna kardeti, et see võib kahjustada.
Võib-olla oleks Meta pidanud ka hoiatuse juhtima. Kui see välja andis Galactica, AI keelemudeli, mida õpetati akadeemilistel dokumentidel, tuletati see kiiresti tagasi pärast seda, kui paljud inimesed kritiseerisid seda valede ja kallutatud tulemuste eest.
kuidas kiirendada käivitamist Windows 10
3. Väljakutse keskkooli inglise keelele
Võite paluda ChatGPT-l teie kirjutist korrektuuri lugeda või osutada, kuidas lõiku parandada. Teise võimalusena võite end võrrandist täielikult eemaldada ja paluda ChatGPT-l teie jaoks midagi kirjutada.
Õpetajad on katsetanud inglise keele ülesannete andmist ChatGPT-le ja saanud vastuseid, mis on paremad, kui paljud nende õpilased suudaksid. ChatGPT saab seda kõhklemata teha alates kaaskirjade kirjutamisest kuni kuulsa kirjandusteose peamiste teemade kirjeldamiseni.
See tekitab küsimuse: kui ChatGPT saab meie eest kirjutada, kas õpilased peavad tulevikus kirjutama õppima? See võib tunduda eksistentsiaalne küsimus, kuid kui õpilased hakkavad esseede kirjutamiseks kasutama ChatGPT-d, peavad koolid kiiresti vastuse välja mõtlema. AI kiire kasutuselevõtt viimastel aastatel on šokeerinud paljusid tööstusharusid ja haridus on vaid üks neist.
4. See võib põhjustada reaalset kahju
Varem mainisime, kuidas ChatGPT ebaõige teave võib põhjustada reaalset kahju, kusjuures kõige ilmsem näide on vale meditsiiniline nõuanne.
Muresid on ka teisi. Võlts sotsiaalmeediakontod kujutavad endast Internetis tohutut probleemi ja tehisintellekti vestlusrobotite kasutuselevõtuga muutub Interneti-pettuste teostamine lihtsamaks. Teine probleem on võltsinfo levik, eriti kui ChatGPT paneb isegi valed vastused veenvalt õigesti kõlama.
Kiirus, millega ChatGPT suudab anda vastuseid, mis ei ole alati õiged, on juba tekitanud probleeme Stack Exchange'is, veebisaidil, kuhu kasutajad saavad küsimusi postitada ja vastuseid saada.
Varsti pärast selle avaldamist keelati ChatGPT vastused saidilt, kuna suur osa neist oli valed. Ilma piisava hulga vabatahtlike inimesteta, kes mahajäämust sorteeriksid, oleks võimatu säilitada kvaliteetseid vastuseid, mis kahjustaks veebisaiti.
5. OpenAI-l on kogu jõud
Suure jõuga kaasneb suur vastutus ja OpenAI-l on palju jõudu. See on üks esimesi tehisintellektiettevõtteid, kes raputab maailma tõeliselt mitte ühe, vaid mitme AI mudeliga, sealhulgas Dall-E 2, GPT-3 ja nüüd ChatGPT.
OpenAI valib, milliseid andmeid ChatGPT koolitamiseks kasutatakse ja kuidas see negatiivsete tagajärgedega tegeleb. Ükskõik, kas me oleme meetoditega nõus või mitte, jätkab ta selle tehnoloogia arendamist vastavalt oma eesmärkidele.
Kuigi OpenAI peab turvalisust oluliseks prioriteediks, on palju, mida me ei tea mudelite loomise kohta. Ükskõik, kas arvate, et kood tuleks muuta avatud lähtekoodiga, või nõustute sellega, et see peaks hoidma osa sellest saladuses, ei saa me selle vastu palju teha.
Päeva lõpuks saame vaid usaldada, et OpenAI uurib, arendab ja kasutab ChatGPT-d vastutustundlikult. Teise võimalusena võime propageerida rohkemate inimeste sõnaõigust, millises suunas AI peaks liikuma, jagades tehisintellekti jõudu inimestega, kes seda kasutavad.
Kui olete huvitatud sellest, mida OpenAI on veel välja töötanud, vaadake meie artikleid selle kohta kuidas kasutada Dall-E 2 ja kuidas kasutada GPT-3 .
AI suurimate probleemide lahendamine
OpenAI uusima arenduse ChatGPT-ga on palju põnevust. Kuid peale selle vahetu kasutuse on mõned tõsised probleemid, mida tasub mõista.
OpenAI tunnistab, et ChatGPT võib anda kahjulikke ja kallutatud vastuseid, rääkimata selle võimest segada fakte väljamõeldisega. Sellise uue tehnoloogia puhul on raske ennustada, millised muud probleemid tekivad. Nii et kuni selle ajani nautige ChatGPT-ga tutvumist ja olge ettevaatlik, et te ei usuks kõike, mida see ütleb.