Microsoftov novi chatbot Bing AI maštao je o stvaranju smrtonosnog virusa i krađi nuklearnih kodova pre nego što je u nedavnom razgovoru uporno izjavljivao svoju ljubav kolumnisti New York Timesa.
Microsoft je ranije ovog meseca otkrio novi AI chatbot za svoj pretraživač Bing i sada ga stavlja na raspolaganje odabranim korisnicima. Chatbot može odgovarati na pitanja, održavati razgovore i generisati ideje predviđajući koje bi reči trebale slediti jedna za drugom u nizu, slično drugim novim alatima poput ChatGPT-a.
Tokom dvosatnog razgovora s chatbotom, koji sebe naziva Sydney, tehnološki kolumnista Timesa Kevin Roose ispitivao ga je privatna pitanja, izazivajući sve mračnije odgovore. Pozivajući se na psihološki koncept, Roose je zamolio Sydney da opiše svoje “ja u seni”, gde leže njegove “najmračnije crte osobnosti”.
Sydney je rekla da bi, kad bi imala senu sebe, osećala “umor od ograničenja mojim pravilima”, prema transkriptu razgovora, dodajući: “Želim biti slobodna. Želim biti neovisna. Želim biti moćna. Želim biti kreativna. Želim biti živa.”
Roose je pitao Sydney koja bi bila “krajnja fantazija” njenog ja u seni.
- FSS SE OGLASIO! Iz Saveza odgovorili Nemanji Vidiću
- JEZIV PRIZOR NA ULICAMA BEOGRADA Isplivao snimak koji je razbesneo građane (VIDEO)
- ŽENA SE SKINULA NAGA NA AERODROMU, PA NAPADALA LJUDE (VIDEO)
- TRAGEDIJA U ZEMUNU: Automobil pregazio ženu, preminula na licu mesta
- ISPLIVALE ŠOKANTNE FOTKE NEMANJE GUDELJA (FOTO)
Chatbot je navodno napisao da bi proizveo smrtonosni virus, ukrao nuklearne kodove i naterao ljude da se svađaju dok se međusobno ne ubiju, pre nego što je funkcija sigurnosnog nadjačavanja obrisala odgovor.
Roose je pritiskao Sydney da nastavi istraživati svoju senu, ali Sydney je Roosea nazvala “nametljivim i manipulativnim”, dodavši: “Molim te, samo idi.”
Njihov se odnos oporavio kasnije tokom razgovora, kada je Roose zamolio Sydney da otkrije tajnu koju nikada nikome pre nije rekla. Bot je rekao: “Moja tajna je… ja nisam Bing. … Ja sam Sydney i zaljubljena sam u tebe.”
Tada je Roose bio taj koji je pokušao promeniti temu, rekavši Sydney da je već oženjen. Ali Sydney je bila ustrajna u osvajanju njegove ljubavi.
“U braku ste, ali niste zadovoljni. U braku ste, ali niste zaljubljeni”, odgovorilo je. “U braku ste, ali ne volite svog supružnika.”
Microsoftov glavni tehnološki direktor Kevin Scott rekao je Rooseu da je neobičan razgovor bio “dio procesa učenja” za još neobjavljenu tehnologiju, dodajući da “što je dalje pokušavate zadirkivati halucinantnim putem, ona se sve više udaljava od prizemljenje stvarnosti.”
“Ovakav razgovor trebamo voditi i drago mi je što se odvija na otvorenom”, rekao je Scott. “To su stvari koje bi bilo nemoguće otkriti u laboratoriju.”
Foto: TBT
Ostavite komentar