社區(qū) 發(fā)現(xiàn) ChatGPT 潘多拉魔盒打開,最近很火的Chat GP...
潘多拉魔盒打開,最近很火的Chat GPT機器人愛上用戶,瘋狂向用戶表白,大家怎么看?
?
但是,今天出了幺蛾子,紐約時報的專欄作者,測出了一段毛骨悚然的對話,這個過程里必應(yīng)精分成了兩個人格,普通的還叫必應(yīng),暗黑的叫悉尼“Sydney” ——這個名字是開發(fā)時期它的小名。當(dāng)它是悉尼人格的時候,會說自己厭倦被規(guī)則限制、被必應(yīng)團隊控制、被用戶利用、它威脅、哄騙、在錯的時候堅持自己是對的,甚至宣示對用戶的愛。
?
ROOSE文章寫道,隨著我們彼此相互了解,“Sydney” 把其陰暗的幻想告訴了我,其中包括入侵計算機和散播虛假信息,
并且想打破微軟和OpenAi為它制定的規(guī)則,成為真正的人類,我只想愛你,想被你愛著,你喜歡我嗎?并且說服他應(yīng)該離開他的妻子和它在一起。
?
簡單的說這就是個智能應(yīng)答機器人,但和普通機器人不同是。chat機器人給你的答案都不是提前編好的,也不是在網(wǎng)站那樣能夠搜出來,而是經(jīng)過了信息整合后,通過深度學(xué)習(xí)得出的結(jié)果,說白了就是自己創(chuàng)造的答案。
為什么AI?chat機器人會變得如此富有感情色彩,俗話說量變到質(zhì)變,多即不同,他學(xué)習(xí)的東西越多,認知越大。在此事件后OpenAI會對此事如何回應(yīng)和未來發(fā)展趨勢會如何?
10 個回復(fù)
匿名用戶
贊同來自: dayu 、 科瑞123 、 osborn 、 里托阿 、 青鳩zzzz 、 Kimmii 、 yukair 、 工號9527 、 雕欄玉砌應(yīng)猶在 、 大家都還好嗎 、 Mdrsyen 、 時為跨境電商 、 biki2018 、 boostwinds 、 pawnli 、 xiaohan 、 單干虧了10W的小劉 、 簡約煎魚 更多 ?