媒體稱應加強人工智能倫理治理 防范以假亂真

近期由人工智能研究公司OpenAI推出全新的生成式人工智能模型Sora成為全球關注熱點。

Sora能將文字、圖像、音頻等信息轉化為逼真的視頻，再一次改變了人類對于AI的認知。雖然這一技術未來可能會對某些行業(yè)產生顛覆式影響，但是人們也必須看到其可能帶來的潛在危險。

近日，經濟日報就以“加強人工智能倫理治理”為題，提出了對人工智能倫理的看法。

經濟日報在文章中表示，從人工智能技術驅動的自然語言處理工具ChatGPT到如今的Sora，從自動生成文字、圖片，再到自動生成視頻，人們驚嘆人工智能突破性進展，同時也伴隨著質疑和擔憂，特別是背后的倫理挑戰(zhàn)。

Sora生成的視頻可以以假亂真。這是一把雙刃劍，一方面可以用于藝術創(chuàng)作；另一方面也可能被濫用于造假、欺騙，甚至顛覆人們對現實的認知。

Sora的出現意味著人工智能技術已經發(fā)展到一個新的高度，同時也對人工智能技術的監(jiān)管能力提出挑戰(zhàn)。如果不能有效地管控Sora等技術，可能會出現無法預料的后果。如今，多個國家和地區(qū)都發(fā)布了相關的人工智能倫理規(guī)范，而微軟等大型科技公司也發(fā)布了相關規(guī)范。

不過由于人工智能技術日新月異，倫理規(guī)范和監(jiān)管制度難免存在滯后性。加之倫理問題的復雜性，各個國家和地區(qū)規(guī)范存在差異，許多規(guī)定過于原則性，缺乏可操作性，難以有效落地實施。

因此，完善細化相關倫理規(guī)范，加強審查和監(jiān)管，以及相關倫理教育和宣傳，更顯迫切。只有正視Sora帶來的倫理挑戰(zhàn)，并加強倫理治理，才能確保人工智能技術造福人類，而不是成為威脅。