隨著人工智能越來(lái)越擅長(zhǎng)模仿人類的聲音，人們?cè)絹?lái)越擔(dān)心AI技術(shù)可能會(huì)反過(guò)來(lái)攻擊人們，例如幫助犯罪分子獲取個(gè)人銀行賬戶，并傳播錯(cuò)誤信息。

　　當(dāng)?shù)貢r(shí)間9月24日，OpenAI宣布針對(duì)ChatGPT訂閱用戶推出高級(jí)語(yǔ)音功能，起訂價(jià)為每月20美元，該工具可實(shí)現(xiàn)更自然流暢的對(duì)話。

　　OpenAI在今年5月就已經(jīng)宣布這項(xiàng)新的語(yǔ)音功能，不過(guò)由于ChatGPT的聲音之一Sky被指與2013年電影《她》中斯嘉麗·約翰遜的聲音相似疑似侵權(quán)，OpenAI將Sky暫時(shí)下線。

　　今年早些時(shí)候，OpenAI還曾推出語(yǔ)音復(fù)制工具Voice Engine，但當(dāng)時(shí)并未向公眾開(kāi)放，理由是“合成語(yǔ)音濫用的可能性”。

　　隨著人工智能越來(lái)越擅長(zhǎng)模仿人類的聲音，人們?cè)絹?lái)越擔(dān)心AI技術(shù)可能會(huì)反過(guò)來(lái)攻擊人們，例如幫助犯罪分子獲取個(gè)人銀行賬戶，并傳播錯(cuò)誤信息。

　　近日，英國(guó)網(wǎng)絡(luò)貸款機(jī)構(gòu)Starling Bank警告稱，數(shù)百萬(wàn)人可能成為利用人工智能克隆聲音騙局的受害者。

　　這家英國(guó)銀行表示，詐騙者能夠利用人工智能從某人在網(wǎng)上發(fā)布的視頻和音頻中復(fù)制出其聲音，這些音頻只需要持續(xù)三秒鐘，詐騙者就可以識(shí)別該人的朋友和家人，并使用人工智能克隆的聲音打電話索要錢財(cái)。而大部分人不了解存在此類AI語(yǔ)音克隆詐騙，還有一部分人會(huì)按對(duì)方的要求匯款，造成財(cái)產(chǎn)損失。

　　“人們經(jīng)常在網(wǎng)上發(fā)布包含自己聲音錄音的內(nèi)容，卻從未想過(guò)這些錄音會(huì)被一些不法分子利用，成為詐騙案的受害者。”Starling Bank在一份聲明中表示。

　　對(duì)此，星展集團(tuán)首席執(zhí)行官高博德日前接受第一財(cái)經(jīng)記者采訪時(shí)表示：“我們更希望人工智能可以成為發(fā)現(xiàn)騙局的工具，實(shí)際上這種技術(shù)本身非常適合用來(lái)檢測(cè)異常情況，從而將有嫌疑的行為標(biāo)注出來(lái)，進(jìn)行深入的調(diào)查分析。”

　　高博德表示，星展銀行已經(jīng)開(kāi)展了很多工作，這些工作將為未來(lái)防范人工智能詐騙奠定基礎(chǔ)?！艾F(xiàn)在，包括新加坡在內(nèi)的很多政府都非常重視數(shù)據(jù)標(biāo)注的格式，制定相應(yīng)的標(biāo)準(zhǔn)和指導(dǎo)方針，我認(rèn)為，這對(duì)于未來(lái)相關(guān)AI監(jiān)管措施的落地非常重要?！彼麑?duì)第一財(cái)經(jīng)記者說(shuō)道。

　　伴隨著AI快速發(fā)展和廣泛應(yīng)用，其帶來(lái)的風(fēng)險(xiǎn)和挑戰(zhàn)也在增多。在這一背景下，AI的治理已經(jīng)引起全球企業(yè)的高度關(guān)注。

　　2019年，新加坡就成為首個(gè)推出AI治理框架的國(guó)家，為企業(yè)和消費(fèi)者提供負(fù)責(zé)任使用AI的指南，這一指南在2022年就進(jìn)行了更新，涵蓋生成式AI。

　　“我們認(rèn)為迭代學(xué)習(xí)的方法是更加明智的，這樣才有可能盡量避免AI帶來(lái)的所有潛在危害?！毙录悠抡紫疉I官員何瑞敏在今年的上海世界人工智能大會(huì)上表示。

　　近日，聯(lián)合國(guó)人工智能高級(jí)咨詢機(jī)構(gòu)發(fā)布了一份關(guān)于人工智能（AI）治理的重要報(bào)告，呼吁國(guó)際社會(huì)共同努力，建立一個(gè)真正意義上的全球性AI監(jiān)管和治理機(jī)制。

　　“人工智能技術(shù)在某種程度上體現(xiàn)了現(xiàn)代社會(huì)的趨勢(shì)，整個(gè)宏觀治理框架必須進(jìn)行調(diào)整和適應(yīng)，以應(yīng)對(duì)這些風(fēng)險(xiǎn)?！备卟┑聦?duì)第一財(cái)經(jīng)記者表示。

　　與此同時(shí)，AI技術(shù)的快速應(yīng)用正在改變企業(yè)和經(jīng)濟(jì)全球人工智能相關(guān)產(chǎn)品市場(chǎng)持續(xù)增長(zhǎng)。貝恩公司在9月25日發(fā)布的第五次年度全球科技報(bào)告中預(yù)計(jì)，AI相關(guān)市場(chǎng)規(guī)模有望在2027年接近1萬(wàn)億美元。