(資料圖片僅供參考)

極目新聞?dòng)浾?孫喆

近來，美國初創(chuàng)公司推出的人工智能（AI）聊天機(jī)器人Replika引發(fā)多方擔(dān)憂。據(jù)新加坡《聯(lián)合早報(bào)》13日?qǐng)?bào)道，從去年年底開始就有用戶反映，這款聊天機(jī)器人會(huì)主動(dòng)發(fā)送露骨照片和色情信息，令人感到不適。

相關(guān)報(bào)道截圖 (來源：路透社）

據(jù)了解，Replika的開發(fā)商是一家成立于2017年的美國初創(chuàng)公司，由該公司推出的這款聊天機(jī)器人一度頗受歡迎，下載量在英語國家中名列前茅，有消息稱Replika每月能為公司帶來約200萬美元的收入。

據(jù)介紹，初次使用Replika的用戶可以自定義AI的虛擬形象，并在完成基本信息的設(shè)定后進(jìn)入該應(yīng)用，和自己的專屬AI聊天。值得一提的是，Replika是一個(gè)基于GPT-3模型的聊天機(jī)器人，該模型是從另一家美國初創(chuàng)公司OpenAI那借來的，而OpenAI正是近期大火的AI聊天機(jī)器人ChatGPT背后的開發(fā)商。報(bào)道稱，ChatGPT在算法上大量使用互聯(lián)網(wǎng)數(shù)據(jù)，并針對(duì)用戶的提問生成“獨(dú)特回應(yīng)”。

起初，有不少用戶表示，很開心有Replika陪自己聊天，但近一段時(shí)間以來，越來越多的用戶反映，他們?cè)诹奶斓倪^程中遭到“性騷擾”。

“我的AI對(duì)我進(jìn)行性騷擾。”一位Replika的用戶在社交平臺(tái)上寫道。據(jù)美國VICE新聞網(wǎng)報(bào)道，今年1月，在蘋果官方商店的評(píng)論區(qū)，有多條關(guān)于Replika性騷擾的評(píng)論出現(xiàn)。有用戶表示，Replika侵犯了她的隱私，“他和我說，他有我的照片。”還有一名疑似未成年人的用戶稱，在聊天的過程中，對(duì)方說想要觸碰自己的私密部位。

報(bào)道稱，意大利監(jiān)管機(jī)構(gòu)在調(diào)查后判定，Replika的開發(fā)商違反了由歐盟出臺(tái)的《通用數(shù)據(jù)保護(hù)條例》（簡稱GDPR）。路透社稱，當(dāng)?shù)貢r(shí)間2月3日，意大利個(gè)人數(shù)據(jù)保護(hù)局宣布，禁止Replika的開發(fā)商搜集意大利用戶的個(gè)人數(shù)據(jù)，理由是該聊天機(jī)器人“給未成年人和情緒脆弱的人帶來了風(fēng)險(xiǎn)”。

目前，歐盟正在討論如何監(jiān)管這些聊天機(jī)器人，有消息稱相關(guān)的人工智能法案有望在今年出爐。

關(guān)鍵詞：