預訓練大模型是過去幾年AI發展主旋律，但是主要集中于自然語言處理領域。視覺領域 在2021年開始迎來進展。谷歌構建了一個擴展的ViT模型，擁有18億參數，并使用30億的 標注圖像進行訓練，在ImageNet上取得了新的記錄（90.45%）。這一工作還表明，在視覺領 域上，模型同樣符合Scaling Lawo即：模型越大、性能越好。
SwinV2則進一步證明了視覺大模型（30億參數）在廣泛視覺問題上的有效性，其在圖像 分類、物體檢測、語義分割和視頻分類等任務上均達到了 SoTA性能。這一工作也驗證了自監 督學習對于驅動大模型訓練的有效性，基于SimMIM方法，SwinV2用相比谷歌小40倍的標 注數據（7000萬）達成了十億級視覺模型的訓練。
| 資料獲取 | |
| 新聞資訊 | |
| == 資訊 == | |
| » 人形機器人未來3-5年能夠實現產業化的方 | |
| » 導診服務機器人上崗門診大廳 助力醫院智慧 | |
| » 山東省青島市政府辦公廳發布《數字青島20 | |
| » 關于印發《青海省支持大數據產業發展政策措 | |
| » 全屋無主燈智能化規范 | |
| » 微波雷達傳感技術室內照明應用規范 | |
| » 人工智能研發運營體系（ML0ps）實踐指 | |
| » 四驅四轉移動機器人運動模型及應用分析 | |
| » 國內細分賽道企業在 AIGC 各應用場景 | |
| » 國內科技大廠布局生成式 AI，未來有望借 | |
| » AIGC領域相關初創公司及業務場景梳理 | |
| » ChatGPT 以 GPT+RLHF 模 | |
| » AIGC提升文字 圖片滲透率,視頻 直播 | |
| » AI商業化空間前景廣闊應用場景豐富 | |
| » AI 內容創作成本大幅降低且耗時更短 優 | |
| == 機器人推薦 == | |
服務機器人(迎賓、講解、導診...) |
|
智能消毒機器人 |
|
機器人底盤 |
 |
