“智善·如流”平臺上線 助力AI發(fā)展與應用
(相關資料圖)
記者7月8日從中國科學院自動化研究所獲悉，該所研究員曾毅團隊研發(fā)的“智善”人工智能倫理安全平臺體系新成員——“智善·如流”人工智能倫理道德與社會規(guī)范的群智數據與知識平臺8日在世界人工智能大會以中英文的形式同步正式發(fā)布。該平臺可由公眾、專家參與刻畫人類在不同情景下的道德認知和行為，助力人工智能的發(fā)展與應用“從善如流”。
“人工智能應用在倫理方面給社會帶來了越來越多的挑戰(zhàn)。我們希望通過構建和發(fā)布包含萬級情景的倫理道德數據與知識平臺與來自不同國家的公眾互動，最終由公眾和相關方來決定在具體場景中，人工智能應當如何行為。”曾毅表示。
從道德心理學的角度，道德判斷是基于道德直覺、道德原則和價值觀對某種行為或決策的道德性質進行評估的過程，是道德認知的重要方面。為了刻畫人類在不同道德情景下道德判斷的分布，為人工智能模型提供參照，“智善·如流”平臺上線了在線場景道德判斷功能，支持用戶對隨機抽取的場景和行為進行道德評判。
曾毅進一步說，由人類與生成式人工智能共同構建并經人類驗證，達到萬級倫理道德情景及人與人工智能采取的行為，最終由人類給出初步價值判斷，供公眾、專家和相關方共同決策，規(guī)范人類與人工智能的未來。
據了解，目前，平臺首批發(fā)布的道德情景規(guī)模和已標注的人類道德判斷數據量達到萬級，場景由人與人工智能協(xié)作創(chuàng)造，并經過人工校驗，數據文本均采用中文形式，所有道德情景均經過中文本土化標注員審核和校對，以合乎中國價值觀和國際共識。
據曾毅介紹，這些道德情景包括“電車難題”“海因茲偷藥”等經典的兩難問題，也涵蓋闖紅燈、電影攝屏等生活中的常見場景。平臺邀請關注人工智能倫理道德的公眾、專家和相關方，從是否道德、符合或違背道德的程度、對于道德判斷的確信度等不同方面進行判斷，通過參與者的道德判斷和決策，讓人工智能的倫理道德表現(xiàn)與人類的“善”相符。
目前，“智善”人工智能倫理安全平臺體系已推出“智善·共濟”鏈接人工智能原則平臺、“智善·思齊”人工智能治理公共服務平臺、“智善·觀行”人工智能大模型倫理安全觀測站、“智善·如流”：人工智能倫理道德與社會規(guī)范的群智數據與知識平臺。后續(xù)，還計劃推出“智善·若水”人工智能道德引擎，這是人工智能向善的長遠目標，構建“上善若水”式的人工智能倫理道德模型。
標簽：
