首頁 > 關于我們 > 安恒動態 > 2024 > 正文

【安恒觀察】開年王炸“Sora”：炸在哪里？有何風險？

閱讀量：次 文章來源：安恒信息

安恒觀察

有政策解讀，有技術探討，有行業理解。

我們不僅關注“現在”，更著眼“未來”；

不僅傳遞觀點，更倡導實踐；

不僅瞄準機遇，更描繪前行路徑；

不僅關注風險，更關心解決之策。

引領方向，服務市場

攜手筑牢安全屏障，為客戶保駕護航！

信息量大、細節生動、場景逼真、鏡頭切換流暢自然......

近日，OpenAI發布了首個文生視頻模型Sora，可以用文字指令生成長達1分鐘的高清視頻。Sora重新定義了AI文生視頻在現階段的技術極限，給2024年開年后的AI生成世界扔了個“王炸”，在全社會引發熱議，媒體關注不斷。

在OpenAI官方出具的技術報告中，對Sora的定位為“作為世界模擬器的視頻生成模型”。近日，安恒信息CTO劉博，安恒研究院院長、高級副總裁王欣等多位技術專家接受媒體采訪，針對Sora是什么？國內的Sora什么時候出現？大模型的實現技術邏輯是什么？可能的安全風險在哪里？等多個問題進行了詳細解答與回復，系統闡述了Sora以及大模型技術帶來的里程碑式改變。

一、Sora是什么？炸在哪里？

簡單來說，Sora可以理解為具備視頻生成、視頻合成、圖片生成三大核心功能的世界模擬器。

它能夠理解用戶的文字提示，直接生成長達一分鐘不同尺寸的視頻，且這一分鐘的視頻并非單一場景，而是由多個鏡頭組成。且能夠確保多個鏡頭之間的人物、場景等整體3D效果與細節的一致性，并實現不同主題和場景組成的視頻之間的無縫過渡。

它的強項在于：

一、精準理解

它能依據背后復雜的邏輯體系，僅通過文字精準分析出你想要視頻是什么樣子。

二、貼近現實

它生成的圖或視頻包含復雜的多角度鏡頭和富有情感的多角色，但都很合理，也很貼合實際生活。比如視頻中看到的下雪、反光等復雜自然系統中的場景，符合現實邏輯。

三、細節真實

生成視頻背景細致入微，動物的毛發都非常清晰，可以真正把你想表達東西具像化呈現，甚至比你想要的還更真實更炫酷。

二、技術上的難點在哪里？

主要的技術突破點在于生成式基礎——通用人工智能（AGI），采用游戲、無人駕駛和機器人領域驗證的世界模型，構建出的文生視頻模型，達到模擬世界的能力。它可以模擬生成圖片、一首詩或一首歌。但是，視頻遠比圖片、文字要復雜。究其原因，視頻的邏輯性、連貫性、對細節的關注度非常看重。

文生視頻，需要依托大模型，對海量現有圖片和視頻數據進行訓練。只有充分了解背后的邏輯，才能生成更合理的邏輯。以GPT為例，它要生成一首七言絕句，就必須得見過足夠多的七言絕句樣本。

文生視頻的難度在于，視頻本身數據量大且非常復雜。大語言模型如果要捕捉到視頻數據的邏輯，會面臨巨大的挑戰。但是，Sora可以做到。它不僅能捕捉到視頻中的細節信息，也能涵蓋宏觀場景化信息，進而生成非常合理、看上去都找不到破綻的視頻。

三、從生成圖到生成視頻，

其背后最大的突破就在哪？

一方面是對數據量的考驗。一張1000×1000像素的圖片可以將圖片內容表達得較為清晰。但是視頻的轉換邏輯不同。每一秒鐘都要處理幾十幀或者上百幀高清圖片，才能保證視頻的邏輯性和連貫性。以海洋生物騎自行車為例，要想顯得合理，動物要長腳，還要穿鞋。類似這樣邏輯性、連貫性很強的視頻，要比圖片復雜100倍甚至1000倍。這種復雜度背后便是對模型算力的要求。

另一方面，Sora使用了Transformer架構，建立在DALL·E 3和GPT模型之上。尤其是要生成長達1分鐘的有運動、多機位的視頻，需要穿梭表達這些信息，至少是10倍或者100倍復雜度的提升。

四、大模型可以實現文生視頻的

底層邏輯是什么？

無論是視頻、圖片還是語言，都是基于多種技術進行編碼，進而轉化成矢量矩陣，最終用數字來呈現。

我們可以稱其為跨媒體的轉換，例如語音轉換視頻、視頻轉換文字等。所以它的底層編碼過程是屏蔽不同媒體介質差別的過程，最終將其變成統一的表達方式。

不管通過什么樣的方式，都可以通過transformer技術計算相似度、邏輯性。因此，無論是語言，還是文字、圖片、音頻還是視頻，對于大模型來講，底層表達邏輯區別并不大，區別主要在于計算的復雜度，以及如何構造你的編碼和transformer技術，從而更好地表達所承載的介質及其關系。

其底層模型，均為通用的大語言模型。即對于自然語言，甚至于計算技術承載的數字化介質來說，都可以通過統一的數字矩陣方式進行表達，抹掉差別，用統一的模型支撐不同的任務。

首先通過編碼，將文字變成數字化矩陣，然后依托該矩陣，從海量視頻數據中抓取匹配場景，再自動化生成。視頻也是同理，需要通過編碼一幀幀生成。

值得一提的是，Sora在視頻內容的合理性層面實現重大突破。例如，以前的AI視頻經常會產生1個人有6個手指或某根手指突然間比其他手指要粗一點。因為某些大模型很難捕捉到如此細節的畫面，導致會出現“常識性錯誤”。但Sora在很多細節上的處理不錯。它的實現主要是human feedback，即通過人的反饋，再持續增強學習。

五、面對新技術，需要去注意什么？

面對一個未成熟的新技術，我們已經看到它巨大的可能性和潛力。

首先，我們要擁抱它，大量使用它，研究原理，從而助力我們自身技術和產業的升級。

第二，隨著AI生成內容的真實性越來越高，如何區分真實視頻和AI生成視頻，以及如何確保內容的真實性和透明度，將成為社會需要共同面對的挑戰。

舉個例子，隨著文生視頻、文生文、文生圖操作的便捷化，自然而然就會產生造假等問題，比如未來虛假消息、虛假視頻、虛假圖片的真偽鑒別。比如詐騙文案、釣魚詐騙的鑒別，比如未來會不會利用虛假視頻、虛假消息等進行輿論戰。

六、當前階段，面對AI的高速發展，

作為企業有什么樣的呼吁？

第一，從當前來看，國內要大力發展自主可控的芯片，同時希望政府給予更多的算力支持。國家在政策、人才、基礎設施方面，對AI產業的投入還是比較大。全國各地在建立AI計算中心，以比較低廉的價格供應給相關企業使用，讓我們都可以以較低的成本來使用AI的算力，國家針對AI算力的科研經費及產業的專項支撐，提供了較大的支持，對AI類型想擁抱AI企業來講，都是一個很好機遇。

第二，國家的監管機構，需要進行全方位的有效監管。例如利用技術手段識別哪些視頻的真實性?？梢圆扇≡谌斯ど梢曨l上打水印、加特殊標簽等方式，確保視頻可以追溯，從而保護個人隱私，保護個人合法權利。

七、Sora的發布及近期大模型技術變革，

會如何影響技術發展的進程？

與前三次工業革命類似，每一次工業革命并不是一個應用上的突破，而是基礎能力上的突破，這會導致生產力提升，生產成本大幅下降。AI大模型技術有可能會成為第四次工業革命的重要驅動。

我們看到，Sora在媒體領域具備很大潛力。當然，它并非橫空出世或一枝獨秀。我們更應該將其看成一個重要的里程碑。羅馬不是一天建成的，類似研究機構和企業，其實都在逐步推進相關技術和產品的進步。我們每個人都可以抓住這樣的機遇，參與到偉大變革中。

八、安恒信息會如何應對大模型變革

所伴隨的機遇和挑戰？

第一，從自身出發，很多員工已經開始將AI作為工作助理，例如寫代碼、報告、PPT等，大幅提升工作效率。

第二，我們充分認識到大模型技術對網絡安全技術的推動力。

當前，我們在做的數據安全、威脅檢測等，都可以通過大模型技術提升精準度和可理解性。客戶在使用我們的產品時，能夠大大降低使用成本，同時讓我們的產品變得可控。可以說，大模型技術能夠幫助我們的產品實現大的跨越。

并且，我們已經推出了網絡安全垂直領域的大模型——恒腦，來解決更多的問題。這是我們的一個探索，未來該技術也會不斷地拓展其邊界，應用到更多領域。

九、當前階段，浙江乃至中國要做出