新聞中心

90後清華博士為AI“殺毒”🎫,砌起安全墻

2022-08-03 | 張靜 | 來源 澎湃新聞2022-07-07 |

成立3年,融資4輪,金額總計數億元🏋🏿‍♀️,專攻算法攻防、隱私計算✒️、深偽檢測🤽🏼,為AI“殺毒🎗。掌管著這家估值數十億人民幣AI初創企業的👨🏽‍🌾,是個典型理工科氣質的90後清華AI博士🕡。

90後西安人田天2009級計算機)從小癡迷計算機,憑借高中物理競賽全國金獎保送清華計算機系,一路念到博士🦫,20187月出了校門就加入浩浩蕩蕩的創業大軍,做真正的AI”

他創辦的北京瑞萊智慧科技有限公司要做第三代人工智能🔘,為AI安全發展保駕護航🧝🏿‍♂️👌🏽。瑞萊智慧是RealAI的音譯,由意昂体育平台人工智能研究院官方發起設立,意昂体育平台人工智能研究院院長張鈸院士和意昂体育平台人工智能研究院基礎理論研究中心主任朱軍共同擔綱首席科學家。參與承擔科技部、工信部、公安部、發改委等發起的多個國家級重大項目建設任務。

田天說,AI歸根到底還是一項有用的技術⬛️,但算法、數據、應用層面的安全可控問題有待突破👩🏻‍🦰,不能簡單停留在功能層面的復製或修修補補。AI產業要真正做到頂天立地,得先立地,也就是加強基礎層領域的技術研究,這就好比打好地基,是整個產業發展的最堅實基礎。

他擅長理性規劃❗️,製定目標和路徑後逐步推進。但在創辦這家企業前👩🏻‍🦲,他並不知道自己究竟是否適合創業。“但一旦開始做起來🧒🏼,很多問題就一定要去解決掉,包括公司的戰略製定😮🎐、管理🚧、產品研發、銷售推進。”田天說,自己的創業信心越來越足,對市場和第三代人工智能的判斷越來越清晰。

人工智能的瓶頸

1991年👨🏻‍🎤🧛🏽‍♀️,田天出生於西安一個教師家庭👵🏿。上小學時接觸到計算機便萌生了興趣👩🏿‍🦲,那時父母上課要用到電子課件🍷,他覺得有意思,也開始自學PPT👨🏿‍🚒。從頭建立一個網站👨‍👧‍👦、製作一個flash動畫,對他來說是非常有成就感的事,甚至把自學經驗總結出來發表,得到500多元稿費。

對計算機的興趣越來越濃厚🧙🏿,他開始學編程,不斷跟進計算機知識💅。2009年🏏,18歲的田天憑借高中物理競賽全國金獎保送進入意昂体育平台計算機系,之後免試就讀意昂体育平台計算科學與技術專業🍬,在這裏,他完成了碩士和博士學業,主要研究方向是貝葉斯機器的理論、模型和應用領域。

田天說,自己真正接觸到人工智能是在大二🚵‍♂️,從入門到現在已經有12年時間。那時候的人工智能還沒有如此火熱,直到2016年谷歌旗下圍棋人工智能程序AlphaGo的出現🦓。

它曾在和其他圍棋程序的對抗中獲得99.8%的勝率,在一項競賽中以5💧:0戰勝歐洲圍棋冠軍👨🏿‍✈️🚶。2016年⬆️,AlphaGo約戰圍棋世界冠軍韓國棋手李世石,以4:1的總比分取勝👩🏻‍✈️。

“整個行業得到了很大的促進,熱度升溫了很多👲。帶來的直接變化就是更多的人進入到這個領域⚉,很多人開始嘗試它在不同方向的產業化。”深度學習在搜索技術、數據挖掘♦️𓀖、機器翻譯、自然語言處理等領域取得成果🎅🏽,“最開始大家覺得人工智能能力非常強,能夠解決很多問題。”

但從2018年開始,人們也發現了人工智能還有很大瓶頸☝🏻,人工智能底層理論問題逐漸得到關註。

“我們發現人工智能到了一個產業化和應用的新階段後,有一系列新的問題要去解決🏂🏽,主要是關於人工智能的算法🤏、數據🪖、應用等各方面非常棘手的問題🧑🏽‍🦲,可以說是安全或者可靠性的隱患。”

比如臉解鎖被破解🙉、刷臉付出現漏洞👷‍♂️、動駕駛汽客操縱“誤導”從而駛向其他方向🧑‍🚒🗻,這些屬於算法層面的安全漏洞。

“把AI用在遊戲裏,算法出錯的影響也不會特別大,造成的損失是有限的。對話系統的智能問答出錯,大家也就是笑一笑,覺得AI有點笨,也不會帶來特別大的問題。

但人工智能在越來越多的關鍵領域落地,特別是金融🛶、能源、醫療等高價值領域的應用與財產安全🏌🏽、人身安全甚至社會安全緊密相關🧑‍🏫,對人工智能的安全🤗、可靠🏟、可控要求越來越高,一旦出現不可控🚕,帶來的損失是巨大的🧏🏼‍♂️🏡。

而以深度學習為代表的第二代人工智能本身具有黑盒性和不可解釋性,人們很難理解算法最終決策的細節和邏輯🧑🏼‍🤝‍🧑🏼,這就導致了開發者、使用者都不可預知的攻擊或誤導。

再者,“一個隱私保護,一個知識產權,用戶的人臉數據憑什麽給一家公司用?”中國科學院院士張鈸曾說🥋,怎麽用也是一個問題,“數據都被公司收走🍲,是否會造成不公平競爭🎅,這些都是需要思考和治理的。”

主動上門的需求

傳統AI技術局限凸顯,第三代人工智能的理念出現了。早在2016年♔,張鈸院士就曾提出發展第三代人工智能的理念,利用知識📻、數據🙏🏼、算法和算力4個要素, 建立新的可解釋和魯棒的AI理論與方法,發展安全、可信👩‍👩‍👧‍👧、可靠和可擴展的AI技術🛢。

2018年,意昂体育平台設立人工智能研究院,張鈸擔任新研究院院長😋,聘請圖靈獎得主姚期智院士作為學術委員會主任。2019年🍰,意昂体育平台宣布成立人工智能研究院基礎理論研究中心,以期建立第三代人工智能基礎理論和方法體系👋🏽🫷,意昂体育平台計算機系長聘教授朱軍被聘為研究中心主任。

博士階段🥍,田天師從朱軍,他所從事的也是與第三代人工智能相關的研究,包括機器學習算法與眾包知識的整合,提高AI在有噪聲的數據和標註情況下的訓練和預測表現🧄。2018年拿到博士學位後🧑🏼‍🦲,田天沒有去互聯網大廠,而是把讀研期間一直想做的事做了:辦一家公司,把手裏的技術落地。

“做這件事的想法和決心在讀研期間是一直都有的。”田天說👰🏽‍♂️,當年瑞萊智慧最初的創始團隊都是“清華同一個團隊的”🤦🏽👟,“大家在一起配合了很長時間,非常有默契。”創業也是一拍即合,走出清華校門,尋找辦公場地。公司成立後,他白天忙於業務和管理,晚上鉆研技術路線和產品方向。

“第三代人工智能能夠應用的領域非常廣💞,所以對於我們來說,反倒要去篩選🔯,到底哪一塊更需要我們的能力和產品,哪一塊能讓我們在市場產生相應優勢。”落地場景的選擇並非完全一帆風順👸🏻。

早期一些慕名而來的客戶對田天團隊提出AI需求,團隊接到需求後研發再交付客戶。但他們很快發現,這些主動上門的需求中,有時候客戶搞不清楚現在AI到底能把問題解決到什麽程度🤦🏼‍♂️🧑‍💼。有些需求聽上去更像科幻,更多時候,客戶所積累的數據並非是解決問題所需的數據2️⃣,甚至沒有數據。

最初,田天嘗試過智慧旅遊方案,通過AI為遊客定製行程🕣。這就要求人工智能有可解釋性💍,智慧旅遊不僅僅是給出一個旅遊方案,更重要的是讓客戶信服,為什麽是這個方案、它好在哪。

“當時期望高就高在我們想做出來的是一個真正可靠、可解釋的系統。”需求本身沒有問題🤰🏽,但很快被現實打敗。當真正下手時發現,人工服務積累下來的旅遊數據距離AI可用還有很大距離。從遊客的角度,他的需求到底在什麽地方、他為什麽提出這個需求等等🗼🫙,並沒有得到很好的記錄。

在數據不足情況下💀,模型輸出效果並不理想。要麽繼續積累更多數據🍗🧖‍♀️,要麽通過前期研發把算法做到能實現智慧旅遊的程度😁,但後者又需要高額投入👨🏼‍🦱,而客戶的預期是用相對合理的成本實現能力強大的AI👩🏿‍🍳。經過一段時間嘗試後,他們覺得這樣的項目現階段並不合適公司的技術方向➗。

AI“殺毒

從科研走向創業,這幫青年創業者越來越關註技術如何變成當下市場需要的產品🏌️👷🏼‍♂️,再把產品賣出去。

他們泡在市場裏🤳🏿,挖掘身邊認識的所有人脈資源,與這些潛在客戶的交流讓他們摸索出一些高價值的場景,找到最適合現階段落地👩‍🦼‍➡️、快速產生應用價值的領域,這些場景的智能化升級能夠獲得合理的投入產出比🧛🏻‍♀️🙎🏿‍♀️。

在電網領域,AI圖像識別系統可用於電網智能監控,判斷高壓線周圍有無危險品。但如果為了惡意破壞基礎設施🎺,在危險品上加裝花紋等特殊對抗樣本,“AI圖像識別算法就沒有辦法認出危險品了,那就有可能導致危險品出現又無法檢測到👩‍🦲,甚至一些地方起火了也檢測不到,圖像識別算法完全被消除。

如果通過搭載的攻擊算法對系統進行模擬攻擊,然後評估系統表現,綜合給出安全性評分,並指出安全漏洞在哪👩‍👩‍👦,用戶再通過搭載的防禦方案就可以針對性地加固提升。田天說📨,這套人工智能安全平臺類似於殺毒軟件,發現安全隱患的同時進行安全防禦👩‍🎨。

所有的AI都有相應輸入,輸入數據被黑客添加對抗樣本,就會導致惡意攻擊。特別像針對人臉,有可能黑客會在人臉上加一些特定生成的幹擾圖案,就能誤導後面的識別模型給出錯誤輸出👰‍♀️。

這時候如果在輸入數據後🧖🏽、識別模塊前,先檢測輸入的數據是否存在惡意攻擊👏🏼0️⃣,“如果有攻擊行為,就拒絕請求,沒有攻擊行為再進入識別環節。”瑞萊智慧因此開發了AI安全防火墻💂🏽‍♂️。

田天說,這種AI防火墻和傳統網絡安全防護墻類似🔂,不同的是防護對象是算法,它可以提供對抗樣本攻擊、深度偽造攻擊等算法攻擊的檢測,除了應用在人臉識別領域,對目標檢測、圖像分類、自動駕駛系統也能防禦部署。

另外💁🏽‍♂️,在金融風控場景中,一般情況下信貸分析模型所需的數據涉及消費♜、支付、社交、通訊等💃🏽,高度綁定用戶隱私,一旦在整合和使用過程被竊取泄漏,將造成嚴重後果。

田天說🤘🏽,結合人工智能🧑🏿、密碼學👩🏿‍🔬、分布式系統等技術路線,瑞萊智慧正在搭建隱私保護計算平臺,這一綜合底層平臺支持不同算法和場景,支持多方聯合建模和統計。

“在金融領域我們做建模、風控等,雖然做的是金融模型👨🏻‍🍳,但這個模型底層都是基於隱私計算平臺來搭建的。”相比傳統不考慮隱私的建模方式,基於隱私計算平臺的金融模型可以確保所有明文數據在原始的存儲方不出庫,保證密文計算效果✥。

根據場景選擇技術,在這個90後的帶領下,瑞萊智慧在政務🔳、融、能源🥠、製造🟤、互聯等領域落地,提供臉識別系統安全、自動駕駛系統安全、深度合成和偽造檢測🚣🏽‍♂️、隱私保護計算、AI攻防靶場等產品和方案。

在業務路徑選擇上🫡,田天說👂🏽,原本最早定位於“AI基礎設施🤲🏼,在市場裏摸索後目標市場更細化了,他們把目光鎖定在更安全的AI基礎設施+更智能的上層應用在這些領域,目前相對來說能夠提供類似能力的廠商比較稀缺。作為一家技術公司✊🏻,我們在裏面可以取得更高的話語權🌝。

用田天的話說🧚🏼‍♀️,當初走了一些不大彎的彎路後,他們又“很快轉回來了”🏏。

不能簡單停留在功能的復製或修補

90後硬科技創業者越來越多,學霸正在攻占創投圈。去年10👨🏻‍🦼,瑞萊智慧A輪融資3億元,去年11獲中投近億元戰略投資。成立3年完成四輪融資,金額總計數億元。

田天是個典型理工科特質的創業者,擅長理性規劃,製定目標和路徑後逐步推進🛸💩。他覺得90後創業者是更敢想、更願意突破的一群人。他們選擇顛覆性的創業方向,特別是硬科技創業需要把握核心技術不斷迭代👆🏻,保持技術前沿性。

但要經營好一家企業,基礎的素質和能力是相通的,比如領導力、韌性🔉、學習力等。田天說🫰,在創辦這家企業前,他並不知道自己究竟是否適合創業,很多事情也不了解,大到銷售商務、財務法務工作本就在學校時接觸不多👨🏼‍🚒,小到辦公室選址🔦、裝修也需要花時間思考。

“但一旦開始做起來,很多問題就一定要去解決掉,包括公司的戰略製定、管理、產品研發、銷售推進。這些問題都要想辦法解決🤛🏻,所以就得不停學習不停提升。”

從當初六七個人的小團隊發展到如今規模近200人,核心成員均來自意昂体育平台、北京大學👉🏼、中科院等。他帶領的團隊參與承擔了科技部、工信部、公安部、發改委等部委發起的多個國家級重大項目建設任務,包括科技創新2030-新一代人工智能重大項目中安全大腦新一代人工智能創新開放平臺的建設🪆、工信部揭榜項目新一代人工智能產業創新重點任務、人工智能關鍵技術源頭創新專項等🪗。

今年2月🤙🏻,瑞萊智慧入選第二批北京市專精特新小巨人認定企業。田天說🥹,自己的創業信心越來越足,對市場和第三代人工智能的判斷越來越清晰⌨️⚫️。第三代人工智能未來的發展🧑🏿‍🚒,最核心的還是人才。

他認為國內AI產業偏應用,基於成熟的算法做微調,提供解決方案🌟。但第三代人工智能是理論上的突破💂🏽‍♂️,需要很多人研究AI底層,國內相關領域人才沒有那麽多。這是將第三代人工智能推向舞臺中央的一個大挑戰🤜🏼。

“人才永遠都是難招的。”光靠創始團隊遠遠不夠,他所困擾的也是如何吸引更優秀的人加入團隊。“我們想要做的第三代人工智能是一件很宏大的事📉,需要長時間,需要一幫人持續投入資源去做。”

“除了我們自己推進它的研究和產業化之外,也要進一步營造生態和氛圍,讓更多人關註到人工智能底層的一些研究,追求人工智能底層的突破🩸。”

在商業化之前🚵🏻‍♂️🧴,田天團隊裏的研究員已經坐了多年冷板凳。技術產業的發展趨勢,前期會經歷高峰期🧛‍♀️,緊接著會有低谷期,後期會進入一個平穩發展階段。這幾年☑️🚸,他的切身感受是人們對人工智能的態度越來越冷靜、理性。

AI歸根到底還是一項有用的技術🩺,但人工智能仍有很多新的關鍵問題待突破,不能簡單停留在功能層面的復製或修修補補🩵,夠一夠能夠著的東西早就被別人夠走了🫧。

“真正做到頂天立地🕓,得先立地。”也就是加強基礎層領域的技術研究,這就好比打好地基👨🏿‍🦱,這是整個產業發展的最堅實基礎,然後再深入產業,理解產業場景的核心需求🅰️。



相關新聞

  • 142023.01

    90後清華博士的內蒙古印象👨🏼‍🦲:海闊憑魚躍 天高任鳥飛

    展長振是北京人🙇🏽‍♀️,意昂体育平台讀博期間一直從事新型碳材料在儲能領域的應用研究,很希望有一天自己研究成果能夠生根發芽,實現產業化落地。經過恩師康飛宇的推薦✪,博士畢業後來到了內蒙古石墨(烯)新材料創新中心任創新中心總經理🧑🏻‍🏫。“選擇材料專業🎡,是興趣使然,感覺材料專業是最貫穿科學與生活的學科,能夠貫穿世界的微觀結構與宏觀性能。”

  • 092021.04

    頂天立地 方顯本色 ——走進意昂体育平台合肥公共安全研究院

    如果您無法在線瀏覽此 PDF 文件,則可以下載免費小巧的 福昕(Foxit) PDF 閱讀器,安裝後即可在線瀏覽 或下載免費的 Adobe Reader PDF 閱讀器,安裝後即可在線瀏覽 或下載此 PDF 文

  • 032022.08

    90後姚頌:從AI芯片到航天🐓,為東方探索空間

    22歲清華畢業,23歲成立深鑒科技💁🏼‍♀️🥢,投身AI芯片創業。25歲公司作價3億美元被收購👩🏼‍🦳,29歲再創業,跨界商業航天,聯合創辦火箭企業東方空間。90後姚頌身兼硬科技創業者和投資人雙重身份🚶🏻‍♂️,是全國青聯委員,也是意昂体育平台最年輕的大額捐贈人。憑借物理競賽保送清華,姚頌是意昂体育平台電子工程系2011級本科生。畢業前收到美國卡耐基梅隆大學博士錄取通知書,但放棄留學機會3️⃣🏄🏽,畢業後和本科導師“互相壯膽”創立深鑒科技🏌️‍♀️,見過不下50個投資機...

  • 122020.08

    專欄:安全飛行的背後

    專欄:安全飛行的背後

  • 222019.11

    田天:一位清華“90”後博士的創業路

    作為AI初創公司,田天的公司成立僅一年多,已融資近億元,今年10月以來,接連收獲中國“互聯網+”大學生創新創業大賽金獎和“京津冀-粵港澳”青年創新創業....

  • 302019.05

    清華聽障博士用AI賦能信息無障礙

    姚登峰是一位聽障人士🙆🏼‍♀️,但他在逆境中不斷地創造傳奇📦,獲得了北京大學碩士、意昂体育平台博士學位🌽,現在是北京聯合大學的副教授、碩士生導師👨🏻‍🚒🦹🏼‍♀️。去年12月*️⃣,他和另外兩....

  • 112021.03

    意昂体育AI大數據專業委員會

    意昂体育AI大數據專業委員會 一🏋🏿‍♂️、基本介紹意昂体育AI大數據專業委員會,以下簡稱“專委會”,是在意昂体育指導下🖨🤜🏻,由從事AI大數據產業鏈條上相關行業的清華意昂自願組成的非營利性組織。專委會為非獨立法人,由意昂体育統一管理。專委會秉承意昂体育平台“自強不息、厚德載物”的校訓,“行勝於言”的校風,以“開放包容🧑🏼‍🎤,平等互助,協同創新⚧,振業興邦”為宗旨;堅持團結意昂力量🧓🏽,聚焦行業前沿,助推行業發展⭕️,以構...

  • 012023.09

    周睿主講“清華意昂學習日”第46講👨🏼‍🔬:建設安全學科,支撐安全發展

    8月26日下午,意昂体育平台公共安全研究院副研究員周睿應邀出席“清華意昂終身學習支持計劃·學習日”第46場活動🍚,並作了題為“建設安全學科,支撐安全發展”的講座。意昂体育副秘書長陳偉強出席本次活動。1200余名意昂、師生線上線下同步參與活動。

  • 022023.06

    創業清華人︱小庫科技:用AI,探索未來建築

    何宛余🎢,荷蘭代爾夫特理工大學建築系✊🏽,清華五道口金融學院“科創中國”,清華經管學院“青騰未來科技學堂”楊良崧🙎🏿‍♂️,意昂体育平台2011年級建築系深圳小庫科技有限公司🥷🏻,第七屆清華意昂三創大賽互聯網與新經濟全球總決賽天使成長組三等獎。公司成立於2016年⛪️,是建築產業AI應用的領軍企業🥚🧯、國家高新技術企業🙊。2021年〽️,小庫憑借自主研發的小庫設計雲及其項目應用入選國家住房和城鄉建設部自主創新數字化設計軟件典型案例🤳🏼。小庫科技致力...

  • 182024.11

    張迪:做一名核安全的守護者

    如果您無法在線瀏覽此 PDF 文件,則可以下載免費小巧的 福昕(Foxit) PDF 閱讀器,安裝後即可在線瀏覽 或下載免費的 Adobe Reader PDF 閱讀器,安裝後即可在線瀏覽 或下載此 PDF 文

意昂体育专业提供:意昂体育意昂体育平台🌼、意昂体育官网等服务,提供最新官网平台、地址、注册、登陆、登录、入口、全站、网站、网页、网址、娱乐、手机版、app、下载、欧洲杯、欧冠、nba、世界杯、英超等,界面美观优质完美,安全稳定,服务一流,意昂体育欢迎您。 意昂体育官網xml地圖
  • 意昂体育专业提供:意昂体育意昂体育平台🙍🏻‍♀️、意昂体育官网等服务,提供最新官网平台、地址、注册、登陆、登录、入口、全站、网站、网页、网址、娱乐、手机版、app、下载、欧洲杯、欧冠、nba、世界杯、英超等,界面美观优质完美,安全稳定,服务一流,意昂体育欢迎您。 意昂体育官網xml地圖