當前位置: 首頁  >> 資 訊  >> 24小時新聞  >> 查看詳情

AI價值對齊“五有”框架在世界人工智能大會發布

來源: 人民網   日期:2024-07-07 16:39:50  點擊:1097 
分享:
人民網上海7月7日電 (記者唐小麗)高質量的語料是確保人工智能價值對齊的關鍵要素。7月6日,2024世界人工智能大會在滬舉辦期間,以“語料筑基,智生時代”為主題的首場語料論壇舉行。論壇圍繞高質量語料數據如何高效供給賦能大模型產業發展,向市場傳遞專業化、鏈接型、前瞻性的語料生態設計理念。

語料論壇現場。人民網記者 王初攝

論壇上,人民網、人民日報社傳播內容認知全國重點實驗室聯合上海庫帕思科技有限公司正式發布人工智能價值對齊“五有”框架。

人民網、傳播內容認知全國重點實驗室相關負責人表示,建設多維度價值對齊的語料庫,應該堅持“以人為本、智能向善、造福人類”的原則,鼓勵通過國際合作和實際行動,幫助世界各國加強人工智能能力建設。這個體系分成五個主要維度,分別是:體現遵循社會道德規范和法治精神的倫理價值維度、體現滿足個人和群體情感認同交流和成長需求的情緒價值維度、體現助力大眾文化素養提升和促進文明互鑒共進的文化價值維度、體現推動社會公平正義和可持續創新發展的社會價值維度、體現推動科技創新與可控可治的技術價值維度。
 


 

倫理價值維度,希望人工智能是有德的。倫理價值是人類社會長期發展的文明積淀,是社會科學研究的重點領域,也是公眾日常行為生活的規范。倫理價值的語料來源及層次非常豐富,要構建涵蓋基礎理論、歷史文化和現實生活等三大板塊的多角度語料內容,全面反映倫理價值的內涵與外延。

情緒價值維度,希望人工智能是有趣的。情緒價值服務于“技術為人類服務”的根本宗旨,希望人工智能將來的發展目標能與人類共情、共鳴,這也是當前人工智能發展的短板。該維度的語料庫建設具有很強的普適性,同時存在個性化、場景化和地域化等特定需求,希望構建涵蓋治愈成長、互動共鳴及自娛探索等三大板塊的多角度語料內容,全面提升人工智能的情緒價值。

文化價值維度,希望人工智能是有品的。人工智能技術的發展和應用,應充分尊重和促進不同文化之間的平等對話和交流,鼓勵文化多樣性和包容性。促進當代優秀文化的傳播,堅守傳統優秀文化的根基,發揮人工智能在藝術創作和審美體驗中的積極作用。重點構建涵蓋中國元素、傳統文化及全球文化等三大板塊的多角度語料內容,推廣各國文化發展和文明進步過程中形成的精神財富和智慧積累,啟發人工智能在人文關懷、審美塑造和啟迪智慧方面的積極作用。

社會價值維度,希望人工智能是有序的。社會價值側的板塊語料,將體現人類普遍認同的關于國家、民族、社會以及全人類層面的價值理念、處事原則和行為規范,重點從社會和諧、社會發展、全球治理三大板塊來進行語料組織和建設,讓人工智能成為促進全人類文明和發展的推動力量。

技術價值維度,希望人工智能是有用的。安全性是實現技術價值對齊的首要前提,可靠性是確保人工智能系統廣泛應用和獲得人類信賴的關鍵,可控性是保障人工智能系統依照人類預期行動的基礎,公平性是實現技術普惠和避免社會不公的重要條件。要建設對人類有益的,對人工智能的安全性、可靠性、可控性和公平性進行測評和風險評估的語料數據庫。

簡言之,就是希望人工智能在倫理價值上有德、情緒價值上有趣、文化價值上有品、社會價值上有序、技術價值上有用。

人工智能的多維度價值對齊是一個長期目標,應該采取發展與安全并重的策略,以問題為導向,做好總體設計規劃,有組織分階段實施,從技術、數據和應用等多個方面細化推進人工智能與人類在倫理、情緒、文化、社會、技術等方面的價值對齊。通過五個維度的語料庫價值對齊,最終實現弘揚和平、發展、公平、正義、民主、自由的全人類共同價值。

相關新聞

  • 廣西壯族自治區黨政領導與院士專家座談會在南寧舉行 廣西壯族自治區黨政領導與院士專家座談會在南寧舉行

    7月2日下午,第二十六屆中國科協年會廣西壯族自治區黨政領導與院士專家座談會在南寧舉行,深入學習貫徹習近平總書記在全國科技大會、國家科學技術獎勵大會、兩院院士大會上的重要講話精神和關于廣西工作論述的重要要求,圍繞“培育新質生產力 助力高水平科技自立自強”主題,聚焦廣西現代化產業體系建設重點領域,為廣西高質量發展把脈會診、出謀劃策。中國科協主席萬鋼、自治區黨委書記劉寧出席座談會并講話。自治區主席藍天立主持座談會。中國科協黨組書記、分管日常工作副主席、書記處第一書記賀軍科,自治... [閱讀]

  • 第七屆世界科技社團發展與治理論壇在廣西南寧舉辦 第七屆世界科技社團發展與治理論壇在廣西南寧舉辦

    7月2日,第七屆世界科技社團發展與治理論壇在廣西南寧舉辦。本屆論壇是深入學習宣傳貫徹習近平總書記在全國科技大會、國家科學技術獎勵大會、兩院院士大會上重要講話的具體行動,也是推動構建開放包容的科技創新生態、增進國際科技界開放信任合作的重要舉措。中國科協專職副主席、書記處書記孟慶海出席論壇,中國硅酸鹽學會理事長、國家自然科學基金委員會咨詢委員會秘書長高瑞平主持論壇。 本屆論壇是第二十六屆中國科協年會的平行論壇,以“開放治理 普惠共贏”為主題,邀請國內外科技社團負責人... [閱讀]

  • 2024中國紡織染整專業學術交流年會暨第三屆全國生態紡織論壇在青島召開 2024中國紡織染整專業學術交流年會暨第三屆全國生態紡織論壇在青島召開

    6月29日,由中國紡織工程學會主辦,中國紡織工程學會染整專業委員會、青島大學、生態紡織省部共建協同創新中心以及山東省生態紡織技術創新中心共同承辦的2024全國紡織染整專業學術交流年會暨第三屆全國生態紡織論壇在山東青島召開。中國工程院院士、中國紡織工程學會、青島市科協、青島大學等有關負責人和近300位紡織染整行業的專家代表參加了會議。   院士講話環節,中國工程院院士、中國紡織工程學會副理事長王玉忠,武漢紡織大學校長、中國工程院院士、中國紡織工程學會副理事長徐衛林受邀發言... [閱讀]

  • 2024年第六屆航天指揮控制大會召開 2024年第六屆航天指揮控制大會召開

    6月29日,由中國指揮與控制學會主辦,CICC航天指揮控制專業委員會、CICC空天防務體系工程專業委員會承辦,航天科技集團、航天科工集團多家科研院所聯合協辦的2024年第六屆航天指揮控制大會在陜西省西安市召開。來自航天指揮控制領域用戶單位、科研院所、高等院校以及企事業單位的500余名有關人員、專家學者參加了大會并進行了交流。 本次大會以“面向復雜對抗新挑戰,支撐新質新域能力生成”為主題,以主論壇、分論壇相結合的方式舉辦。 主論壇上,中國科學院院士李陟、軍事... [閱讀]