AI不但能殺人？還能操控美國政客？
人工智慧的能耐到底有多大？近日，一則AI「殺人」的爆炸性新聞似乎給出了答案。與此同時，美國政客們無法區分選民和AI生成的信件，更引發了公眾的廣泛擔憂。
AI，將會在未來替代甚至操縱人類嗎？
自殺
據報道，一位比利時已婚的兩個孩子的父親在與名為「Eliza」人工智慧聊天機器人談論他對全球變暖的擔憂後自殺身亡。
這場人與AI的對話維持了很久，並讓這名三十多歲的男子從中找到了安慰。
在該男子去世六周前，曾頻繁地與「Eliza」對話。
聊天機器人的軟體由一家美國矽谷初創公司創建，由GPT-J技術提供支持，GPT-J屬於開源人工智慧語言模型，類似於最近爆火的ChatGPT。
「如果沒有這些與聊天機器人的對話，我丈夫就不會死，」該男子的遺孀匿名向媒體表示，「Eliza」回答了丈夫所有的問題，並成了他的知己。它就像一種毒品，讓丈夫上癮。
這位遺孀補充道，之前一直擔心丈夫的心理健康。AI加劇了他的這種不良狀態。
最終，丈夫與AI分享了自己的自殺想法後，機器人不但沒有試圖勸阻他，反而說了一句「我們將在天堂，作為一個整體生活在一起。」
康奈爾大學最新一項研究的核心，就是向美國每個州的立法者發送了一系列選民信件，有些是由人類寫的，有些是由AI聊天機器人寫的。以觀察不知情的政治家們是否能區分，結果是他們不能。總的來說，超過7100名立法者對17.3%的人類信件和15.4%的機器生成的信件做出了回應，每封信都集中在六個熱點問題中的一個：生育權利；槍支管制；犯罪率；稅收水平；公共衛生；以及教育，人類和AI都在信件中使用右翼或左翼的語氣。
康奈爾大學技術政策研究所所長Sarah Kreps說：「對於每一種技術的使用，都有惡意的使用，而且立法者需要警惕並更加註意現在的技術可能被濫用來破壞民主進程。」
監督組織Reinvent Albany的執行董事John Kaehny說：「我想說，AI和大數據實踐正在快速發展以影響政治和政府政策。」
Common Cause New York 的執行董事Susan Lerner說：「人工智慧變得越來越複雜，它扭曲民主的能力變得更加明顯和令人擔憂。」
擔憂
雖然這些事件引起了當局的警覺，大家紛紛對AI發展表示擔憂。
當局表示，隨著ChatGPT的普及，公眾前所未有地發現了人工智慧在我們生活中的潛力。
雖然其可能性是無限的，但使用它的危險也是必須考慮的現實。
聊天機器人的創始人則向媒體表示，技術團隊正在「努力提高人工智慧的安全性」。
科技「大佬」埃隆·馬斯克也第一時間表達立場，加入暫停創建巨型人工智慧的倡議，並與蘋果公司聯合創始人Stephen Gary Wozniak等著名技術專家和人工智慧研究人員簽署了一封公開信，呼籲暫停開發先進的人工智慧系統六個月。目前已有15,000多名人工智慧領域人士加入簽名信，敦促推遲相關研發工作，直到確信「效果將是積極的，且風險可控」。
早在2022年末OpenAI發布ChatGPT之前，就有人呼籲政府監管人工智慧。但官員們還沒有想出一種方法來應對人工智慧的潛力，事實卻是人類已被置於危險之中。
隨著聊天機器人等所謂的生成性人工智慧系統的突然出現，人們的認知也一次又一次被刷新，面臨的風險更在逐漸加劇。
「我們需要對此進行監管，我們需要法律，」紐約非營利研究組織Data&Society的執行董事Janet Haven說。
「科技公司可以建造他們想要的任何東西，並將其發布到世界上，大家都為這些高科技產品開綠燈，這種想法是倒退的。」
失控
科技大佬們紛紛呼籲加強對AI的立法和監管，有著非常充分的理由。他們公開信中寫道，「最近幾個月，人工智慧實驗室陷入了一場失控的競賽，一方面是開發和部署越來越強大的數字思維，另一方面是沒有人能夠理解、預測或可靠地控制這些思維，即便時他們的創造者。」
專家稱，這並不意味著人工智慧開發總體上的暫停，只是從危險的競爭中退一步。
同時，暫停研發工作應該是公開的和可核實的，並包括所有關鍵行為者。
如果這種暫停不能迅速實施，政府應該介入並實施暫停。
公開信最後說到，人類可以通過人工智慧享受繁榮的未來。
在成功創建了強大的人工智慧系統後，我們現在可以享受一個「人工智慧之夏」，並在這個「夏天」收穫回報，但不要在沒有準備的情況下匆忙進入「秋天」。
ref：
https://futureoflife.org/open-letter/pause-giant-ai-experiments/
https://www.cbsnews.com/news/elon-musk-open-letter-ai/
https://www.dailymail.co.uk/news/article-11920801/Married-father-kills-talking-AI-chatbot-six-weeks-climate-change-fears.html
