亚洲小说图片区综合在线,日本公厕撒尿高清视频,国产又黄又湿又刺激网站,少妇自慰毛多水多

2024年競(jìng)爭(zhēng)秩序場(chǎng):算法治理仍在路上,端側(cè)AI帶來(lái)隱私新課題
來(lái)源:21世紀(jì)經(jīng)濟(jì)報(bào)道作者:王俊,肖瀟2025-01-23 10:30

競(jìng)爭(zhēng)秩序,永遠(yuǎn)是常說(shuō)常新的話題。尤其是在新舊產(chǎn)業(yè)交替的時(shí)刻。

在過(guò)去一年,我們看到,互聯(lián)網(wǎng)平臺(tái)舊腳本的問(wèn)題尚未解決,在存量競(jìng)爭(zhēng)中矛盾越發(fā)突出;人工智能帶來(lái)的新故事里,亦充滿了安全與治理的迷惑。

即日起,我們將推出《2024年競(jìng)爭(zhēng)秩序場(chǎng)報(bào)告》,聚焦電商、社交平臺(tái)和端側(cè)AI三大領(lǐng)域,從過(guò)去一年的典型案例入手,梳理競(jìng)爭(zhēng)秩序的裂隙與演變。這不是一份解決問(wèn)題的清單,而是一份拋出問(wèn)題的地圖:哪些秩序出現(xiàn)了裂隙?又將如何塑造未來(lái)的市場(chǎng)格局?

一 實(shí)測(cè)六大社交平臺(tái):推薦算法大起底

推薦算法的雙重難題

推薦算法的本質(zhì)是內(nèi)容分發(fā),旨在提高信息分發(fā)的效率。2012年,最典型的推薦算法產(chǎn)品今日頭條誕生;2017年,抖音引入智能推薦算法。推薦算法從星星之火到烈火烹油,各大社交平臺(tái)都開(kāi)始通過(guò)分析用戶的歷史行為、興趣偏好和個(gè)性特征,精準(zhǔn)預(yù)測(cè)用戶的喜好,并構(gòu)建出信息流式的內(nèi)容推薦體系。

從工作原理來(lái)看,目前的推薦算法系統(tǒng)大多由三個(gè)要素組成:用戶、項(xiàng)、用戶對(duì)項(xiàng)的操作行為。

簡(jiǎn)單理解,“用戶”指的是每個(gè)用戶獨(dú)特的興趣特征、身份特征等等;“項(xiàng)”是用戶與內(nèi)容之間的相似性,比如算法會(huì)找到與某個(gè)用戶興趣最相似的人群,再給他們互相推薦一方感興趣、另一方還沒(méi)接觸過(guò)的內(nèi)容;“操作行為”則主要包括每個(gè)用戶的點(diǎn)擊、購(gòu)買(mǎi)、觀看、瀏覽數(shù)據(jù)。

在這些大數(shù)據(jù)的基礎(chǔ)上,推薦算法能夠越來(lái)越精準(zhǔn)地“猜你喜歡”,也引起越來(lái)越多的爭(zhēng)議,其爭(zhēng)議點(diǎn)可以歸納為客觀上的“不安全”和主觀上的“不安全感”。

一方面,推薦算法是平臺(tái)提高用戶黏性的主要競(jìng)爭(zhēng)手段,它越能精準(zhǔn)向用戶推薦符合其偏好的內(nèi)容,用戶看到的信息就越單一,長(zhǎng)此以往可能停留在算法構(gòu)造的“過(guò)濾氣泡”中。

另外,推薦算法越來(lái)越能“讀人心”,而透明度沒(méi)有及時(shí)跟進(jìn)。面對(duì)新技術(shù)的艱深造物,公眾難免會(huì)產(chǎn)生懷疑和不信任感。

需要提到的是,也有不同觀點(diǎn)認(rèn)為平臺(tái)在實(shí)踐中有追求算法多樣性的內(nèi)在動(dòng)力,因?yàn)橛脩裟芟M(fèi)更多種類的內(nèi)容和商品,反而是更利好平臺(tái)商業(yè)變現(xiàn)的做法。國(guó)外學(xué)者在研究算法成癮問(wèn)題時(shí)進(jìn)一步發(fā)現(xiàn),平臺(tái)留住用戶的最好方式其實(shí)是“提供兩條不感興趣的內(nèi)容,再提供三條感興趣的內(nèi)容”,這種間歇性的“內(nèi)容獎(jiǎng)勵(lì)”會(huì)讓人們產(chǎn)生更多多巴胺,心理原理類似“老虎機(jī)”的賭博成癮過(guò)程,因此帶來(lái)的算法成癮問(wèn)題同樣值得關(guān)注。

測(cè)評(píng):“算法透明”長(zhǎng)路漫漫

針對(duì)信息繭房和上癮問(wèn)題,2024年11月,國(guó)家網(wǎng)信辦下發(fā)的《關(guān)于開(kāi)展“清朗·網(wǎng)絡(luò)平臺(tái)算法典型問(wèn)題治理”專項(xiàng)行動(dòng)的通知》要求相當(dāng)明確:嚴(yán)禁推送高度同質(zhì)化內(nèi)容誘導(dǎo)用戶沉迷。不得強(qiáng)制要求用戶選擇興趣標(biāo)簽,不得將違法和不良信息記入用戶標(biāo)簽并據(jù)以推送信息,不得超范圍收集用戶個(gè)人信息用于內(nèi)容推送。規(guī)范設(shè)置“不感興趣”等負(fù)反饋功能。

結(jié)合專項(xiàng)行動(dòng)的要求,南財(cái)合規(guī)科技研究院-21世紀(jì)經(jīng)濟(jì)報(bào)道對(duì)微信公眾號(hào)、微博、抖音、快手、小紅書(shū)、B站的推薦算法的合理性進(jìn)行了測(cè)評(píng),測(cè)評(píng)分為算法可解釋性、用戶自主性、防沉迷措施三個(gè)方面。

在算法可解釋性上,目前只有微博對(duì)推薦內(nèi)容給出了非常簡(jiǎn)略的原因解釋。在“關(guān)注”頁(yè)面,如果刷到了純粹由算法推薦的博文,頂部會(huì)有一行小字解釋:看到該內(nèi)容是因?yàn)槟P(guān)注的好友“xx關(guān)注了”或您關(guān)注的好友“xx點(diǎn)贊了”。至于為什么在眾多內(nèi)容中算法選擇推薦了這一條,并沒(méi)有給出更多維度的解釋。不過(guò),在抖音推薦頁(yè)面,如果好友點(diǎn)贊會(huì)提示“××推薦”;在朋友頁(yè)面,則可以看到關(guān)注好友發(fā)布的視頻。

與此同時(shí),微博、抖音、嗶哩嗶哩都采用了相似的興趣標(biāo)簽管理設(shè)計(jì):長(zhǎng)按一條內(nèi)容,可以看到“減少xx用戶”“減少xx頻道”“減少xx標(biāo)簽推送”的選擇,一定程度上解釋了這條內(nèi)容在算法中的分類,也讓用戶更便捷地管理算法偏好。但微博和嗶哩嗶哩也因此沒(méi)有設(shè)置統(tǒng)一的、全方位的偏好管理頁(yè)面。

這就說(shuō)到了在自動(dòng)算法面前,用戶能掌握多少自主性的問(wèn)題。測(cè)評(píng)發(fā)現(xiàn),小紅書(shū)、快手、抖音都有統(tǒng)一的標(biāo)簽管理頁(yè)面,用戶能在這些頁(yè)面里調(diào)節(jié)每種內(nèi)容的算法推薦強(qiáng)度,內(nèi)容標(biāo)簽約一百種。

但必須指出的是,這些標(biāo)簽管理頁(yè)面的入口都隱藏很深,比如抖音的點(diǎn)開(kāi)步驟為:Tab欄中的“我”→右上角的“設(shè)置”→“更多功能”→“使用管理助手”→“內(nèi)容管理”,五步操作后才能進(jìn)入最終頁(yè)面,而且“使用管理助手”的名字也很難讓普通人直觀理解含義。相比之下,快手的“內(nèi)容偏好設(shè)置”直接放在了側(cè)邊欄。

用戶需要能夠關(guān)閉“個(gè)性化推薦”,已經(jīng)是近三年反復(fù)提及的要求。將個(gè)性化推薦的開(kāi)關(guān)放在“隱私設(shè)置”中,也是較為普遍的做法,但測(cè)評(píng)仍然注意到兩個(gè)問(wèn)題:一、關(guān)閉入口隱藏較深,起碼需要經(jīng)過(guò)四次操作,并且?guī)缀趺恳淮尾僮鞫夹枰吕巾?yè)面最底部;二、所有平臺(tái)的個(gè)性化內(nèi)容推薦和個(gè)性化廣告推薦都需要分開(kāi)關(guān)閉,甚至有些關(guān)閉按鈕在完全不同的目錄中。比如,抖音的“個(gè)性化廣告”在單獨(dú)的“了解與管理廣告推送”功能里。

最后,在防沉迷問(wèn)題上,視頻平臺(tái)的措施相對(duì)完善——抖音和嗶哩嗶哩都有單獨(dú)的時(shí)間管理功能,用戶可以為自己限制使用時(shí)間或者設(shè)置提醒。而其他平臺(tái)只有用戶打開(kāi)青少年模式后,才能使用類似功能。

二 實(shí)測(cè)多款A(yù)I手機(jī):技術(shù)發(fā)展背后蟄伏風(fēng)險(xiǎn)

市場(chǎng)現(xiàn)狀:AI注入新活力

繼2023年創(chuàng)下10年來(lái)最低紀(jì)錄后,全球智能手機(jī)市場(chǎng)下行趨勢(shì)出現(xiàn)逆轉(zhuǎn)。據(jù)市場(chǎng)調(diào)研機(jī)構(gòu)Counterpoint的報(bào)告,全球智能手機(jī)市場(chǎng)2024年銷(xiāo)量同比增長(zhǎng)4%,在連續(xù)兩年下滑后首次迎來(lái)復(fù)蘇。

對(duì)于未來(lái),Counterpoint還預(yù)測(cè)到,2025年全球智能手機(jī)市場(chǎng)還將會(huì)繼續(xù)增長(zhǎng),其中收入將增長(zhǎng)8%,銷(xiāo)量增長(zhǎng)4%,前景較好。

直觀的數(shù)字客觀折射出現(xiàn)狀:2023年前,以手機(jī)為代表的消費(fèi)電子行業(yè)已低迷多年,各路手機(jī)廠商在外觀、芯片、續(xù)航等功能上下功夫,收效微薄。

2022年底ChatGPT的爆火引發(fā)了生成式人工智能熱潮,大模型成為市場(chǎng)押注的風(fēng)向。伴隨著技術(shù)的發(fā)展迭代,大模型逐漸走向手機(jī)、汽車(chē)、智能設(shè)備等端側(cè),AI與端側(cè)的融合被視為新的創(chuàng)新錨點(diǎn),成了手機(jī)廠商刺激增長(zhǎng)的抓手。

2023年起,各個(gè)手機(jī)廠商紛紛推出自己的大模型。手機(jī)廠商布局大模型并非噱頭,而是切實(shí)可以帶來(lái)手機(jī)性能的提升以及商業(yè)模式創(chuàng)新。

端側(cè)大模型指在終端設(shè)備(如智能手機(jī)、平板、PC、智能穿戴設(shè)備、自動(dòng)駕駛及具身智能等)上運(yùn)行的大型預(yù)訓(xùn)練模型。實(shí)時(shí)性、低延時(shí)等是端側(cè)AI最誘人的優(yōu)勢(shì)。借助端側(cè)大模型,用戶大部分?jǐn)?shù)據(jù)處理均在本地完成,只有少量高算力需求的場(chǎng)景會(huì)調(diào)用云端算力,大幅提高響應(yīng)速度。

在手機(jī)上落地大模型具有天然優(yōu)勢(shì)。手機(jī)終端直接觸達(dá)用戶,擁有豐富的用戶數(shù)據(jù),可以與模型交互,提升模型性能,并反哺提升用戶體驗(yàn)。

這正是手機(jī)廠商新商業(yè)故事的起點(diǎn),榮耀手機(jī)原CEO趙明曾表示,AI手機(jī)的核心是基于算力的個(gè)人定制化操作系統(tǒng),“不是擁有生成式AI功能的手機(jī)就叫AI手機(jī),未來(lái)的AI手機(jī)是一個(gè)可以真正懂你的手機(jī)”。

可以看到,從2024年下半年開(kāi)始,各個(gè)手機(jī)廠商推出新機(jī)型主打的賣(mài)點(diǎn)是AI智能體,其類似于大模型的肉身,作為用戶與數(shù)字世界的交互入口。比如用戶只需要跟智能體聊天,就可以實(shí)現(xiàn)修圖、配文一鍵轉(zhuǎn)發(fā)朋友圈;一句話的指令,智能體就能直接點(diǎn)外賣(mài)、打車(chē)、購(gòu)物。

在更廣闊的未來(lái)中,智能體將是你最忠實(shí)的助手、最熟悉的伙伴,理解用戶,預(yù)測(cè)用戶需求,提供個(gè)性化服務(wù)和情感共鳴,為商業(yè)拓寬邊界。

目前的市場(chǎng)預(yù)測(cè)印證了對(duì)智能體商業(yè)邏輯的認(rèn)可:最新市場(chǎng)研究,預(yù)計(jì)到2030年,全球AI智能體市場(chǎng)規(guī)模將從2024年的51億美元激增至471億美元,年均復(fù)合增長(zhǎng)率達(dá)到44.8%。

隱私保護(hù):AI手機(jī)商業(yè)故事的起點(diǎn)

大模型的技術(shù)特點(diǎn)以及智能體的功能定位,決定了AI時(shí)代隱私保護(hù)問(wèn)題的復(fù)雜性。

首先,數(shù)據(jù)是AI模型的“食糧”,AI模型的建立,依賴于大量的數(shù)據(jù)進(jìn)行訓(xùn)練和優(yōu)化,以提升其準(zhǔn)確性和性能。

其次,為了提供更加精準(zhǔn)的個(gè)性化服務(wù),必須收集和分析用戶的行為習(xí)慣、偏好等信息。

各個(gè)手機(jī)智能體還會(huì)嵌入“智能加強(qiáng)”之類的功能,來(lái)搜集更多的個(gè)人數(shù)據(jù)。比如榮耀YOYO的“個(gè)人記憶”會(huì)收集日程信息、交易信息、重要人物/地點(diǎn)、紀(jì)念日信息;小布的意圖感知服務(wù)會(huì)收集:位置信息、應(yīng)用使用信息、亮滅屏狀態(tài)、開(kāi)關(guān)機(jī)信息、運(yùn)動(dòng)健康信息(步數(shù)、睡眠)等。

此外,在運(yùn)行AI任務(wù)時(shí),也需要充足的數(shù)據(jù)來(lái)處理和分析。這些數(shù)據(jù)可能來(lái)自手機(jī)內(nèi)置的傳感器、用戶輸入的信息以及從云端獲取的數(shù)據(jù)等。

可以看到,AI手機(jī)的功能須“吞下”大量的個(gè)人數(shù)據(jù)才能夠成立。因此,隱私保護(hù)也就成了一切商業(yè)故事的起點(diǎn)。隱私保護(hù)做不到位,將直接影響用戶的信任度。

測(cè)評(píng):我的隱私是否被濫用?

測(cè)試多款A(yù)I手機(jī)后,一個(gè)明顯的感受是:隱私政策變得前所未有的復(fù)雜。

AI時(shí)代,手機(jī)廠商既是功能聚合的中心,也是數(shù)據(jù)流轉(zhuǎn)的節(jié)點(diǎn),隱私政策變得更加細(xì)密而難以解讀。

“AI功能”下設(shè)的每一項(xiàng)功能,幾乎都會(huì)有單獨(dú)的隱私政策,好比不同的App,負(fù)責(zé)不同模塊,隨即衍生出了多個(gè)說(shuō)明文檔。

這種“分工明確”的隱私條款,一方面體現(xiàn)了廠商對(duì)數(shù)據(jù)保護(hù)的重視,另一方面卻讓消費(fèi)者稍不留神就陷入信息迷宮,難以真正了解自己的數(shù)據(jù)被如何收集與使用。

而更令人擔(dān)憂的是,手機(jī)廠商是否“掛著羊頭賣(mài)狗肉”,更加難以辨明。

在實(shí)測(cè)過(guò)程中,南財(cái)合規(guī)科技研究院-21世紀(jì)經(jīng)濟(jì)報(bào)道發(fā)現(xiàn)了不少與手機(jī)廠商的宣傳有出入的地方,首當(dāng)其沖的是端側(cè)處理與云側(cè)處理之爭(zhēng)。

上述提到,端側(cè)AI的用戶大部分?jǐn)?shù)據(jù)處理均在本地完成,這決定了端側(cè)AI在私密性上的優(yōu)勢(shì)。榮耀宣傳時(shí)強(qiáng)調(diào)“端側(cè)AI更個(gè)人化、人性化、隱私保護(hù)的智慧體驗(yàn)?!眝ivo也對(duì)外表示“今年我們有十幾個(gè)、數(shù)十個(gè)功能都端側(cè)化了,以后可能閑聊、識(shí)別、決策、執(zhí)行全部都端側(cè)化了?!?/p>

但現(xiàn)實(shí)中,目前國(guó)內(nèi)AI手機(jī)的許多功能依然高度依賴云側(cè)處理。

一旦數(shù)據(jù)上傳云端,隱私泄露的風(fēng)險(xiǎn)成倍增加。

聰明的廠商未雨綢繆地強(qiáng)調(diào)自己的數(shù)據(jù)保護(hù)手段:采取優(yōu)先本地化(端側(cè))處理+加密上傳云端處理的措施。盡管機(jī)制上保證安全,但數(shù)據(jù)上云確實(shí)放大了數(shù)據(jù)隱私保護(hù)的風(fēng)險(xiǎn),也與端側(cè)大模型的賣(mài)點(diǎn)不相符。

此外,智能體對(duì)用戶的響應(yīng),大多依靠“識(shí)屏+模擬點(diǎn)擊”技術(shù)路線,業(yè)內(nèi)安全技術(shù)專家告訴21世紀(jì)經(jīng)濟(jì)報(bào)道記者,背后的技術(shù)邏輯大概是“無(wú)障礙權(quán)限”,這便引發(fā)了更深的問(wèn)題。

無(wú)障礙權(quán)限本身是為殘障人士提供無(wú)障礙支持,包括iOS的VoiceOver(旁白)功能、Android的TalkBack功能。但這些年,無(wú)障礙權(quán)限成為不少?gòu)S商鉆空子的切入口,成為繞過(guò)用戶授權(quán)的隱秘通道。

比如自動(dòng)搶紅包的App、游戲自動(dòng)外掛等,均是利用了無(wú)障礙權(quán)限。與第三方App不同的是,智能體是手機(jī)廠商自己打造的超級(jí)助手,擁有更接近技術(shù)系統(tǒng)的優(yōu)勢(shì)和更高的權(quán)限調(diào)用能力,這讓無(wú)障礙權(quán)限被濫用的話題更為敏感。

在實(shí)測(cè)中,21世紀(jì)經(jīng)濟(jì)報(bào)道記者發(fā)現(xiàn)OPPO、vivo、榮耀的手機(jī)的隱私政策里,無(wú)障礙權(quán)限的說(shuō)明均不夠清晰。比如榮耀在其“榮耀AI·基礎(chǔ)服務(wù)”中的情景感知功能中提及,會(huì)動(dòng)態(tài)借助系統(tǒng)的無(wú)障礙功能,但是哪些具體操作用到無(wú)障礙功能未做說(shuō)明。

相比之下,OPPO的小布識(shí)屏隱私政策則稍顯清晰,提到該功能會(huì)調(diào)用無(wú)障礙權(quán)限用于防誤觸和朗讀文章,但未要求用戶在開(kāi)啟權(quán)限時(shí)進(jìn)行明確授權(quán)。榮耀與vivo因其表述較為模糊,不明確哪些功能涉及無(wú)障礙功能,因此實(shí)測(cè)中無(wú)法確定是否詢問(wèn)用戶。

對(duì)此,OPPO回應(yīng)21世紀(jì)經(jīng)濟(jì)報(bào)道記者稱,無(wú)障礙服務(wù)僅會(huì)被用于幫助使用有困難的用戶更好的使用智能設(shè)備,因?yàn)楸憷缘纫恍┛陀^原因,所以調(diào)用無(wú)障礙服務(wù)可以無(wú)需授權(quán);但是無(wú)障礙服務(wù)的使用前提依然是需要遵循用戶隱私規(guī)范。

責(zé)任編輯: 陳勇洲
聲明:證券時(shí)報(bào)力求信息真實(shí)、準(zhǔn)確,文章提及內(nèi)容僅供參考,不構(gòu)成實(shí)質(zhì)性投資建議,據(jù)此操作風(fēng)險(xiǎn)自擔(dān)
下載“證券時(shí)報(bào)”官方APP,或關(guān)注官方微信公眾號(hào),即可隨時(shí)了解股市動(dòng)態(tài),洞察政策信息,把握財(cái)富機(jī)會(huì)。
網(wǎng)友評(píng)論
登錄后可以發(fā)言
發(fā)送
網(wǎng)友評(píng)論僅供其表達(dá)個(gè)人看法,并不表明證券時(shí)報(bào)立場(chǎng)
暫無(wú)評(píng)論
為你推薦
時(shí)報(bào)熱榜
換一換
    熱點(diǎn)視頻
    換一換