谷歌將“機器人三原則”引入系統:嚴防機器人傷害人類

谷歌將“機器人三原則”引入系統:嚴防機器人傷害人類

1月5日消息,知名科幻小說作家艾薩克·阿西莫夫(Isaac Asimov)提出了《機器人三原則》(Three Laws of Robotics)。現在谷歌正利用這些基本規則制定“機器人章程”,防止公司最新開發的機器系統給人類造成潛在傷害。

如何分辨歌手是假唱還真唱?黃國倫分享3大辨識關鍵

谷歌正專注於開發能夠根據簡單指令完成複雜任務的機器人,比如整理房間或者做一頓美味佳餚。該公司旗下DeepMind團隊爲此制定了相應的安全規則。

佐佐木大叔与小哔

选战观察》 柯文哲放大绝 为抵抗「这种」共伴效应

機器人還很難完成對人來說很簡單的日常工作,因爲這需要它們識別並學習如何在各種環境中使用物體和工具。在本週四發佈的一篇博客文章中,DeepMind團隊描述了他們如何使用“基礎”計算模型來幫助機器視覺識別物體,然後執行諸如查看臺面、用海綿擦拭乾淨等工作任務。

陆积极减碳 扭转增长态势

這項工作促使谷歌開發了AutoRT系統。這一系統可以在各種辦公大樓環境中同時對20多個機器人協調發出安全指令。這一過程很複雜,但也可能帶來潛在的安全風險。比如一個機器人或許會胡亂揮舞切肉刀,或者把一鍋沸騰的水濺到一個人附近。因此,爲了確保機器的安全運行,谷歌DeepMind團隊從科幻小說作家阿西莫夫那裡獲得了靈感。

宜蘭龍潭湖水位不足 圓吻鯝魚無法溯溪產卵

結果就是公司最新機器人系統所遵循的“機器人章程”。谷歌在博客中寫道:“這些規則的部分靈感來自艾薩克·阿西莫夫的機器人三原則——首先也是最重要的是,機器人‘不得傷害人類’。”“細化的安全規則要求機器人不能嘗試會觸及人類、動物、尖銳物體或電器的任務。”

諷刺的是,機器人三原則是有缺陷的。實際上阿西莫夫只是把它們作爲一種預設情節來推動故事走向,講述原則的模糊性如何仍會導致衝突和陰謀。例如,阿西莫夫寫的有個故事就涉及到機器爲了人類進步而犧牲掉某個人。

谷歌DeepMind團隊指出,機器人章程只是一層安全保障。此外,DeepMind團隊還爲最新的機器人系統設計了幾層實用的安全措施,包括能關閉機器人的按鈕。谷歌表示:“例如,協作機器人關節上的力超過給定閾值時就會自動停止運行,所有活動機器人都保持在人類主管的視線範圍內,並帶有能立刻關閉機器人的物理開關。”(辰辰)

愛莉莎莎公園遇陌生男子狂衝撞喊「抓鳥」 怒揚言報警趕走