多模態預訓練大模型-十大科技趨勢

人工智能正在從文本、語音、視覺 等單模態智能，向著多種模態融合的通用人工智能方向發展。多模態統一建模， 目的是增強模型的跨模態語義對齊能力， 打通各個模態之間的關系，使得模型逐 步標準化。目前，技術上的突出進展來自于 CLIP（匹配圖像和文本）和 BEiT-3 （通用多模態基礎模型）。基于多領域知識，構建統一的、跨場景、多任務的多 模態基礎模型已成為人工智能的重點發 展方向。未來大模型作為基礎設施，將 實現圖像、文本、音頻統一知識表示， 并朝著能推理、能回答問題、能總結、 做創作的認知智能方向演進。