外媒:比利時(shí)計(jì)劃打造首個(gè)追蹤仇恨言論的AI大模型
【環(huán)球時(shí)報(bào)綜合報(bào)道】比利時(shí)安特衛(wèi)普大學(xué)的衍生公司Textgain計(jì)劃打造首個(gè)能夠檢測(cè)網(wǎng)絡(luò)仇恨言論的人工智能(AI)應(yīng)用程序,將覆蓋歐洲所有官方語(yǔ)言。
據(jù)比利時(shí)《布魯塞爾時(shí)報(bào)》22日?qǐng)?bào)道,Textgain首席執(zhí)行官表示,其他大型語(yǔ)言模型如ChatGPT或Google Translate,是拒絕處理惡意言論的。Textgain的模型不僅能處理惡意語(yǔ)言,還可識(shí)別有害信息,找出它們的具體內(nèi)容、目標(biāo)人群,并了解更深層的模式。“例如,我們監(jiān)控足球運(yùn)動(dòng)員的社交媒體內(nèi)容,有時(shí)他們互相調(diào)侃其實(shí)是一種樂(lè)趣,而真正仇恨言論的門檻要高得多。”在他看來(lái),考慮上下文背景的大型語(yǔ)言模型是很有價(jià)值的。
因擔(dān)心他人利用公司模型大規(guī)模制造仇恨言論,Textgain首席執(zhí)行官認(rèn)為應(yīng)該采取保護(hù)措施,并決定不開源。
此外,Textgain還希望能與社交媒體公司和執(zhí)法部門合作,打擊網(wǎng)上非法內(nèi)容和虛假信息。(高云帆)