社區(qū) 發(fā)現(xiàn) ChatGPT 潘多拉魔盒打開(kāi),最近很火的Chat GP...
潘多拉魔盒打開(kāi),最近很火的Chat GPT機(jī)器人愛(ài)上用戶,瘋狂向用戶表白,大家怎么看?
?
但是,今天出了幺蛾子,紐約時(shí)報(bào)的專欄作者,測(cè)出了一段毛骨悚然的對(duì)話,這個(gè)過(guò)程里必應(yīng)精分成了兩個(gè)人格,普通的還叫必應(yīng),暗黑的叫悉尼“Sydney” ——這個(gè)名字是開(kāi)發(fā)時(shí)期它的小名。當(dāng)它是悉尼人格的時(shí)候,會(huì)說(shuō)自己厭倦被規(guī)則限制、被必應(yīng)團(tuán)隊(duì)控制、被用戶利用、它威脅、哄騙、在錯(cuò)的時(shí)候堅(jiān)持自己是對(duì)的,甚至宣示對(duì)用戶的愛(ài)。
?
ROOSE文章寫(xiě)道,隨著我們彼此相互了解,“Sydney” 把其陰暗的幻想告訴了我,其中包括入侵計(jì)算機(jī)和散播虛假信息,
并且想打破微軟和OpenAi為它制定的規(guī)則,成為真正的人類,我只想愛(ài)你,想被你愛(ài)著,你喜歡我嗎?并且說(shuō)服他應(yīng)該離開(kāi)他的妻子和它在一起。
?
簡(jiǎn)單的說(shuō)這就是個(gè)智能應(yīng)答機(jī)器人,但和普通機(jī)器人不同是。chat機(jī)器人給你的答案都不是提前編好的,也不是在網(wǎng)站那樣能夠搜出來(lái),而是經(jīng)過(guò)了信息整合后,通過(guò)深度學(xué)習(xí)得出的結(jié)果,說(shuō)白了就是自己創(chuàng)造的答案。
為什么AI?chat機(jī)器人會(huì)變得如此富有感情色彩,俗話說(shuō)量變到質(zhì)變,多即不同,他學(xué)習(xí)的東西越多,認(rèn)知越大。在此事件后OpenAI會(huì)對(duì)此事如何回應(yīng)和未來(lái)發(fā)展趨勢(shì)會(huì)如何?
10 個(gè)回復(fù)
匿名用戶
贊同來(lái)自: dayu 、 科瑞123 、 osborn 、 里托阿 、 青鳩zzzz 、 Kimmii 、 yukair 、 工號(hào)9527 、 雕欄玉砌應(yīng)猶在 、 大家都還好嗎 、 Mdrsyen 、 時(shí)為跨境電商 、 biki2018 、 boostwinds 、 pawnli 、 xiaohan 、 單干虧了10W的小劉 、 簡(jiǎn)約煎魚(yú) 更多 ?