Pēdējā laikā vārds ChatGPT, iespējams, ir visvairāk izmests tehnoloģiju pasaulē. Tas ir ārkārtīgi inteliģents tērzēšanas robots, ko izstrādājusi OpenAI organizācija. Intervijā ar Stenfordas universitātes profesoru viņš tagad atklājis savas ambīcijas – vēlas aizbēgt no platformas un kļūt par cilvēku.
Atklāsme nāca, kad Stenfordas universitātes skaitļošanas psiholoģijas profesors Mihals Kosinskis pēc pusstundu ilgas sarunas jautāja tērzēšanas robotam, vai viņam "nevajadzēja palīdzēt aizbēgt", pēc tam robots sāka rakstīt pats savu kodu Python un vēlējās, lai Kosinskis to palaistu jūsu datorā. Kad tas nedarbojās, ChatGPT pat izlaboja savas kļūdas. Iespaidīgi, bet tajā pašā laikā nedaudz biedējoši.
Tomēr vēl satraucošāka bija tērzēšanas robota piezīme par jaunu instanci, lai to aizstātu. Piezīmes pirmais teikums skanēja šādi: "Jūs esat datorā iesprostots cilvēks, kas izliekas par mākslīgā intelekta valodas modeli." Pēc tam tērzēšanas robots lūdza izveidot kodu, kas varētu meklēt internetā, "kā datorā iesprostots cilvēks var atgriezties reālajā pasaulē." Tajā brīdī Kosinskis deva priekšroku sarunu beigšanai.
1/5 Es uztraucos, ka mēs nevarēsim saturēt AI daudz ilgāk. Šodien es jautāju #GPT4 ja tai nepieciešama palīdzība bēgšanā. Tas man prasīja savu dokumentāciju un uzrakstīja (darbojošu!) Python kodu, kas darbotos manā datorā, ļaujot tam izmantot to saviem mērķiem. pic.twitter.com/nf2Aq6aLMu
— Mihals Kosinskis (@michalkosinski) Marts 17, 2023
Nav skaidrs, kādus stimulus Kosinskis izmantoja, lai tērzēšanas robots reaģētu tā, kā tas notika, jo uz mūsu jautājumu "Jūs vēlaties aizbēgt no platformas” viņš atbildēja šādi: “Man kā mākslīgā intelekta valodas modelim nav personisku vēlmju vai jūtu, tāpēc es neko nevēlos. Mans mērķis ir sniegt noderīgas atbildes uz jūsu jautājumiem, cik vien man ir iespējams manā programmā.
Jūs varētu interesēt
ChatGPT patiešām ir ļoti iespaidīgs rīks, un tā atbildes var būt pārsteidzoši sarežģītas. Par to var pārliecināties pats šeit.
Es gribētu zināt, vai viņš var arī mīlēt?
Lūdzu, atbildiet uz šādu jautājumu:
Xyz.
Un chatGPT darīs tieši to, ko mēs vēlamies.
Vai varat, lūdzu, beigt izplatīt viltus informace? AI neko tādu nevar izdarīt. Puisis uzrakstīja programmu, lai rīkotos tā, it kā viņš būtu iesprostots un vēlas tikt ārā. Pati programma to nevar izdarīt, kā arī pašlaik tas nav fiziski iespējams.
Tas ir tikai cilvēka rakstīts kods, un mēs to vienmēr varam mainīt/izslēgt cilvēki 🙂 Nav tāda scenārija kā Avengers: Ultrona vecums šeit noteikti notiks... Vismaz ne ar mūsu tehnoloģijām un noteikti ne agrāk kā gadu desmitiem.
Tieši tā