您的位置: 首頁 > 數(shù)據(jù)雜志

人工智能, 第三次浪潮O(jiān)R寒冬?

出處:數(shù)據(jù)雜志 作者:李婷 網(wǎng)編:張?zhí)m 2019-10-16

今年似乎什么時候聊起“人工智能”都顯得不那么過時,當我們還在消化“5G”、“區(qū)塊鏈”到底能如何改變我們的生活時,人工智能突然就已經(jīng)無處不在。大到城市建設(shè)和管理,小到手機指紋解鎖,在醫(yī)療、教育、金融、商業(yè)、城市管理、工業(yè)、農(nóng)業(yè)等眾多領(lǐng)域,人工智能似乎都在悄然進行著一場又一場的革命。

當我們一次次談?wù)撊斯ぶ悄苡忠栽鯓拥男滦螒B(tài)出現(xiàn)在面前時,市場卻正在發(fā)生一輪新的變革。在各路人馬井噴式涌入人工智能行業(yè)后,去年90%以上的企業(yè)卻都處于虧損狀態(tài),當“死亡名單”開始越來越長后,即使是一些幾年時間迅速登頂獨角獸的人工智能企業(yè),也同樣不能幸免。我們又產(chǎn)生了一層新的思考?

眼下對于人工智能行業(yè)來說,究竟是新浪潮還是新寒冬?

六十多年里的三次浪潮

說到人工智能,肯定離不開如今作為美國歷史最悠久的世界頂尖學府達特茅斯學院。因為這個概念的正式誕生,就來自于這個學府上的一場會議。

1953年夏天,幾個對計算機感興趣的年輕人聚在一起,想編一本關(guān)于“是否可用圖靈機作為智能活動的理論基礎(chǔ)”的書籍,雖然書籍慢慢搞成了,但這幾個年輕人卻非常不滿意。所以在1955年夏天,他們決定再次搞一場類似的活動,而其中一位叫麥卡錫的年輕人,突發(fā)奇想給1956年舉辦的“達特茅斯學院會議”上,起了一個“人工智能夏季研討會”(Summer Research Project on Artificial Intelligence)的名字。雖然歷史上對“人工智能”是不是麥卡錫本人創(chuàng)造的詞匯還有很大爭議,但必須承認的是,“人工智能”一詞在這一年也正式進入了人們視野。

image.png

但是這個詞誕生之后的發(fā)展,卻遠不像大家想得那樣順利。1956-1974年間,或許是對人工智能抱有過高的期待,這些年間無論大學還是政府機構(gòu)都紛紛在人工智能相關(guān)領(lǐng)域傾注包括人力、物力、財力等大量資源。然而,在當時無論硬件還是自身技術(shù),都無法匹配人工智能的發(fā)展需要,所以,在經(jīng)歷第一次大發(fā)展后,1974年人工智能迎來了首次寒冬。

這一次寒冬,業(yè)界認為主要是來自于計算機性能的瓶頸,無法滿足發(fā)展人工智能所需要的復(fù)雜計算以及龐大的數(shù)據(jù)量,導致AI領(lǐng)域研究者們一籌莫展。

這陣寒冬一直持續(xù)到上世紀80年代,解決的突破口是一種名為“專家系統(tǒng)”的AI程序的出現(xiàn),這個系統(tǒng)其實就是一種程序,能夠依據(jù)一組從專門知識中推演出的邏輯規(guī)則,在某一特定領(lǐng)域回答或解決問題,“專家系統(tǒng)”在全世界范圍內(nèi)被采納后,在某些范圍內(nèi)解決了一些問題。此外,非常熱衷于人工智能的日本,也在這個時期通過政府斥資8.5億美元創(chuàng)造出了一臺具有超級計算能力和人類智能的計算機,這臺被稱為“第五代計算機項目”的機器,目標是可以實現(xiàn)與人對話、翻譯語言、解釋圖像,并且能像人一樣推理。這也吸引了英國、美國開始向AI和信息技術(shù)領(lǐng)域的研究提供大量資金。

這次突破也為行業(yè)帶來了第二次發(fā)展,但隨著1987年“蘋果”、“IBM”崛起,研發(fā)出類似我們現(xiàn)在使用的臺式電腦,讓AI硬件市場需求突然下跌。再加上人們逐漸意識到,日本人提出的“第五代計算機項目”并沒有實現(xiàn),所以開始走向失望。這直接導致價值5億美元的專家系統(tǒng)產(chǎn)業(yè)的直接崩潰,并引發(fā)了人工智能的第二次寒潮。

之后幾年,隨著互聯(lián)網(wǎng)的發(fā)展,人工智能才有了穩(wěn)定復(fù)蘇的跡象。此后的標志性事件,就是1997年IBM研發(fā)出的計算機“深藍”擊敗國際象棋冠軍加里·卡斯帕羅夫,才讓公眾真正開始意識到人工智能的力量。隨后,2011年,IBM的問答系統(tǒng)“沃森”在美國智力競賽節(jié)目《危險邊緣》中擊敗了衛(wèi)冕冠軍布拉德·拉特和肯·詹寧斯。“Alpha GO”分別在2016年和2017年擊敗九段圍棋選手李世石和世界冠軍柯潔。這些也一次次刷新著人們對人工智能的認知。

由于硬件設(shè)備的突破,機器學習繼續(xù)向前發(fā)展。計算機的處理和存儲能力呈指數(shù)級增長,使企業(yè)能夠存儲和處理大量數(shù)據(jù),眾多企業(yè)和政府機構(gòu)已成功地將人工智能大規(guī)模地應(yīng)用起來,但與此同時,科技行業(yè)面臨著網(wǎng)絡(luò)泡沫,人工智能的基金已經(jīng)耗盡。

image.png

很多人認為目前人工智能的發(fā)展已經(jīng)放緩,即將面臨人工智能發(fā)展的第三次寒潮。也有些人認為在強人工智能方面還沒有取得重大突破,而當前企業(yè)專注于弱人工智能的研究,抑制了整個人工智能技術(shù)水平的發(fā)展。也有人批評當前人工智能研究過于集中,可能會危害到社會。不管怎樣,不可否認的是,當前的股票市場由蘋果、谷歌、亞馬遜、Facebook等公司主導,如果人工智能的第三次寒冬真的來臨,不僅AI產(chǎn)業(yè)將停滯不前,全世界都將可能面臨下一次經(jīng)濟危機。

弱人工智能階段的“天才白癡”

得益于大數(shù)據(jù)與大數(shù)據(jù)技術(shù)發(fā)展,深度學習的出現(xiàn)以及運算力的提升,當前人工智能已經(jīng)進入加速發(fā)展期。數(shù)據(jù)方面,大數(shù)據(jù)的出現(xiàn)為人工智能提供了充分“養(yǎng)料”;算法方面,深度學習顛覆了語音識別、語義理解、計算機視覺等基礎(chǔ)應(yīng)用領(lǐng)域的算法設(shè)計思路。算力方面,GPU、NPU、FPGA等專用芯片的出現(xiàn),突破了人工智能發(fā)展在數(shù)據(jù)處理速度上的瓶頸。然而單就目前AI的智力水平來說,業(yè)界普遍認為它僅與人類三歲小孩智力相當,可以說還處在弱人工智能階段。

數(shù)據(jù)、算法和算力是現(xiàn)階段推動人工智能發(fā)展的三駕馬車。而在過去60多年間,有礙于數(shù)據(jù)的缺失和算力水平薄弱,人工智能發(fā)展遭遇巨大瓶頸。雖然人工智能當下在很多應(yīng)用領(lǐng)域可以實現(xiàn)數(shù)據(jù)的高寫入、高分析和高存儲,但離想象中具有自我思考能力、能夠認知外部世界的人工智能還差得很遠。

對此,久其軟件產(chǎn)品中心副總經(jīng)理李紀洲也對《數(shù)據(jù)》雜志表示,作為當前支撐人工智能的核心技術(shù),深度學習本質(zhì)上還是統(tǒng)計學層面的技術(shù),也就是說,現(xiàn)在的人工智能對外部信息還無法給出自己的判斷,只能通過大量數(shù)據(jù)灌輸來總結(jié)概率,從而得出結(jié)論。久其人工智能研究院院長龔佶敏,則干脆將現(xiàn)在的人工智能比作“天才白癡”。

綠灣科技CTO于建崗也對此表示,在數(shù)據(jù)處理方面,人工智能的確遠遠超越了人類,但在認知思維方面,目前人工智能可能還相當于零,“很多對于人來講非常簡單的事情,但是從機器學習的角度來說,卻是非常困難的。”于建崗博士解釋道,“光靠數(shù)據(jù)堆積做統(tǒng)計分析的事情,現(xiàn)在已經(jīng)做得非常好。但人工智能如何從現(xiàn)在的統(tǒng)計走向思維,這條路還很漫長。”

從深度學習的角度來說,現(xiàn)階段通過大量數(shù)據(jù)進行灌輸訓練的方式還顯得過于簡單粗暴,并不能算為智慧。在李紀洲的理解中,如果機器學習能夠擺脫對龐大樣本數(shù)據(jù)的依賴,那么人工智能技術(shù)發(fā)展會有一個巨大突破。

同樣的構(gòu)思,中國人工智能學會前理事長鐘義信也曾對《數(shù)據(jù)》雜志表示,希望可以通過給予目標來讓人工智能系統(tǒng)自動排除非目標數(shù)據(jù)。鐘義信的理念是,強調(diào)目標是一切智能系統(tǒng)的靈魂,用目標來甄別和過濾大數(shù)據(jù),將雜亂的大數(shù)據(jù)變成有用的小數(shù)據(jù),這是智能系統(tǒng)區(qū)別于計算機系統(tǒng)的重要體現(xiàn)。

image.png

基于這些構(gòu)思,研究人員也開始將目光重新放回到神經(jīng)網(wǎng)絡(luò)身上。想要學習人的思維能力,就要了解大腦的運行機制,研究人的腦神經(jīng)。“而人工智能現(xiàn)在正處于從感知智能走向認知智能轉(zhuǎn)移的初期,屬于非常初級的階段。”于建崗表示,不過他相信,在未來的5-10年內(nèi),人工智能的理論研究會在認知推理、邏輯思維方面取得一些突破。

“To”誰的人工智能?

人工智能在中國的火熱已無須贅言,僅從近兩年人工智能企業(yè)的數(shù)量增長就可見一斑。據(jù)中國信息通信研究院發(fā)布的數(shù)據(jù)表明,中國人工智能企業(yè)數(shù)量從2012年的300家已經(jīng)增長到2017年末的1000家左右。從橫向看,中國人工智能企業(yè)數(shù)量在全球范圍內(nèi),已僅次于美國穩(wěn)居第二。截至2018年6月,美國和中國的人工智能企業(yè)數(shù)量分別為2028家、1011家,隨后排名第三的英國企業(yè)數(shù)量僅有392家,排名第九的瑞典僅有55家,差距已經(jīng)逐漸拉大。

此外,人工智能、大數(shù)據(jù)企業(yè)無疑也是近兩年“獨角獸”陣營中的明星。2018年全球新生獨角獸中,包括新能源汽車、人工智能芯片、機器人、大數(shù)據(jù)、計算機視覺、云計算等在內(nèi)的企業(yè)共28家,較2017年增長9家,增長近50%。其中中國共有8家,分布在人工智能、機器人、新能源汽車和大數(shù)據(jù)領(lǐng)域。

從這幾年資本的傾斜程度也不難看出市場對人工智能的期待。2013年到2018年一季度,全球AI行業(yè)累計投融資數(shù)據(jù)中,中國占比60%,美國占比29%,合計占比接近90%。根據(jù)億歐智庫《2018中國人工智能商業(yè)落地研究報告》顯示,2017年中國AI創(chuàng)業(yè)公司累計獲得超過500億元人民幣融資,但其中累計產(chǎn)生收入?yún)s不足100億美元,絕大多數(shù)的人工智能企業(yè)是在虧損的狀態(tài)。

繁榮過后不久,95%以上的人工智能創(chuàng)業(yè)公司就要迎來倒閉潮。對此有業(yè)內(nèi)人士表示,在IPO提速以及高估值的雙重作用下,2018年已經(jīng)開始出現(xiàn)了AI公司的倒閉潮。甚至從2018年年初開始,人工智能領(lǐng)域的投融資熱度也已出現(xiàn)明顯放緩節(jié)奏。新工場董事長李開復(fù)也曾在公開場合表示,在2018年底AI公司估值已經(jīng)下降了20%、30%,同時他還表示,“要再下降20%、30%,就是AI公司合理的估值了。”

今年8月中旬,《華爾街日報》就曝光了一家海外偽AI明星公司Engineer.ai。這家成立于2016年、總部設(shè)在美國洛杉磯和英國倫敦的公司,號稱可以通過人工智能程序、輔助缺少工程師的公司、自動“組裝”新的代碼??梢韵穸ㄖ婆_一樣,為任何人和公司自動生成自己的各種網(wǎng)站和手機App。他們聲稱,使用AI技術(shù)在很大程度上實現(xiàn)了移動App的自動化開發(fā)。

依靠這項理念,在2018年11月,Engineer.ai對外宣布完成了2950萬美元A輪融資。但很快它就被爆出,該公司所聲稱的大部分demo制作和軟件生成,目前都是依靠印度以及其他地方的人工工程師來完成的,而不是使用人工智能。

,而不是使用人工智能。風口之上,打著人工智能幌子的公司讓人真假難辨。風投公司MMC曾發(fā)布的一份報告顯示,只要打上“AI”的標簽,企業(yè)可以多獲得15%-50的融資。對此業(yè)界甚至調(diào)侃,很多人工智能公司不是“to G”,也不是“to B”或“to C”,而是“to VC”,這些公司主要研究的是怎么做PPT而不是怎么做人工智能。

image.png

打怪升級的創(chuàng)業(yè)之路

第三屆“百度AI開發(fā)者大會”上,李彥宏的被潑風波依然余音未平,不過令人匪夷所思的不只是李彥宏現(xiàn)場的遭遇,還有他后來接的一句頗有意思的話:在AI前進的道路上會有各種各樣的事情發(fā)生,但是我們前進的決心不會改變,AI會改變每一個人的生活。

AI之路到底有多艱難?尤其對于創(chuàng)業(yè)型AI公司來說,盡管能拿到風投,但在開始的兩三年之內(nèi),就會因為技術(shù)研發(fā)基本被燒光,如果這個時候還找不到合適的應(yīng)用場景去做產(chǎn)品落地,就相當于死亡。而闖過這幾關(guān)的公司,也還會面臨數(shù)據(jù)收集難、產(chǎn)品與用戶需求不匹配、項目產(chǎn)出周期漫長、項目成本高但盈利低等種種難關(guān)。

賺錢慢、燒錢快、磨合時間長,在過五關(guān)斬六將的路途上,甚至有大批企業(yè)還沒有找到應(yīng)用場景就已經(jīng)死掉了。在這樣的情況下,如何走出一條穩(wěn)妥的路,對創(chuàng)業(yè)型人工智能公司來說,可謂是舉步維艱。對此于建崗也表示,AI這波火有點虛熱,國家政策大力支持,VC的錢也大量投進來,但人工智能技術(shù)的落地仍然是一大問題,目前除了圖像、語音、視頻這幾塊的智能產(chǎn)品落地能產(chǎn)生價值,其他的到現(xiàn)在還沒有出現(xiàn)。

所以,為了讓自己能活下去,國內(nèi)也出現(xiàn)了很多打著人工智能旗號卻用人力來解決問題的AI公司。不過對于這種情況,龔佶敏也表示,并不能因此認定對方是“偽AI”,但可以肯定的是AI的智能水平?jīng)]有達到那些公司所宣揚或者人們所想象的那種程度。

此外,人才問題目前也是我們發(fā)展人工智能的一個短板。近期某互聯(lián)網(wǎng)公司給名校人工智能方向應(yīng)屆博士開出80萬年薪,一度引發(fā)社會熱議。但在這件事背后,卻是500萬的AI人才需求缺口、1:10的供需比例、平均年薪約33萬……在這些高帽子加持下,人工智能已經(jīng)超越了曾經(jīng)的金融、計算機等專業(yè),成為了站在風口最前端的香餑餑專業(yè)。今年35所學校獲得首批開設(shè)人工智能本科專業(yè)的學科建設(shè)資格,包括同濟大學、浙江大學、上海交大等一批一流學校,可見社會對這一領(lǐng)域人才的極度渴求。對此于建崗也表示,人工智能的發(fā)展難題歸根結(jié)底是人才的難題。

技術(shù)先行OR商業(yè)模式先行?

產(chǎn)品落地決定企業(yè)生死,有無技術(shù)決定企業(yè)存亡,而當這兩者之間出現(xiàn)矛盾時,企業(yè)到底應(yīng)該是技術(shù)先行還是商業(yè)模式先行?

以AI識別技術(shù)為例,李紀洲舉了個例子,在一些對結(jié)果不容出錯的應(yīng)用領(lǐng)域,例如監(jiān)獄服刑人員的監(jiān)控、點名等場景,除非能完全消除程序的錯誤率,否則再好的人工智能產(chǎn)品都沒有應(yīng)用價值。李紀洲解釋道,對于AI識別,很多人把“正確率”+“錯誤率”理解成“已識別的”+“未識別的”,但實際上并不準確,應(yīng)該分為三類:“已識別正確的”、“已識別錯誤的”,和“未識別出的”,相對應(yīng)的就是正確率+錯誤率+未識別率=100%。而在上述幾個實際應(yīng)用場景中,對于錯誤率幾乎是零容忍,不管產(chǎn)品的識別正確率有多高,如果無法消除錯誤率,稍微一點差錯都會為用戶帶來更大的麻煩。

李紀洲表示,當前市場上人臉識別產(chǎn)品的準確率基本都可以達到85%、甚至90%以上的準確率,再想把準確率提高一個點都是件非常艱難的事,一些企業(yè)會花大量成本追求這個準確率,但是很少會有人去關(guān)注錯誤率的問題。然而一旦落到實地,會發(fā)現(xiàn)還是有很多水土不服的地方。在結(jié)果門檻高于技術(shù)門檻的應(yīng)用領(lǐng)域,任何一個點的錯誤都會導致大量的人工核對成本。有客戶就曾說過:“AI可以識別不出來,但千萬不要識別錯了,每錯一個我們都要去人工核查一遍真實情況。”這正是技術(shù)與應(yīng)用場景脫節(jié)的地方。

比如對于2014年才成立的綠灣科技來說,這也不是一個容易取舍的問題。與大多數(shù)初創(chuàng)型企業(yè)一樣,綠灣科技在獲得第一筆融資后花費了大概三年的時間潛心研究技術(shù),然后在2017年左右開始開拓市場。應(yīng)用領(lǐng)域從一開始的公安、法院、政務(wù)等G端慢慢向金融等B端市場邁進。在王興讓看來,做人工智能的企業(yè)一定是以技術(shù)為驅(qū)動,以市場需求為牽引,同時需要找到相匹配的商業(yè)模式來做產(chǎn)品的孵化器,“這三個要素是相輔相成的過程”。

李紀洲也給出了類似的回答,在久其自己的摸索過程中,也曾經(jīng)出現(xiàn)過一個很精致的智能產(chǎn)品做出來不符合用戶需求的情況,然后拿回去大刀闊斧地改,但即使最優(yōu)秀的產(chǎn)品設(shè)計師也不能百分百滿足用戶需求。對此李紀洲也表示:“一家公司里的銷售團隊和研發(fā)團隊永遠都在‘打架’,但是只要這兩方勢力均衡,這家公司就算是健康的狀態(tài),這就是商業(yè)模式和技術(shù)該有的關(guān)系。”

不過在商業(yè)化探索方面,“目前應(yīng)該說很少或者說幾乎沒有現(xiàn)成的商業(yè)模式可供參考”,綠灣科技運營總監(jiān)胡大民表示,“從這個角度來看,應(yīng)該說大家都是在推進技術(shù)創(chuàng)新和落地的過程當中,不斷地在摸索合適的商業(yè)模式。”

“別害怕這個泡沫破滅”

從2017年開始,人工智能連續(xù)三年進入政府工作報告,而2019年的政府工作報告不僅繼續(xù)大力推進人工智能發(fā)展,更首次提出“智能+”的概念,從頂層設(shè)計的角度,將人工智能視為國家戰(zhàn)略中重要的基礎(chǔ)設(shè)施,推動其與產(chǎn)業(yè)的融合,加速經(jīng)濟結(jié)構(gòu)升級??梢哉f我國對于人工智能的重視程度非常高,已經(jīng)上升到國家戰(zhàn)略層面。

而回望AI過去兩次浪潮都跌入低谷,很大一部分原因是沒有跟產(chǎn)業(yè)結(jié)合。但掀起這一次浪潮的更大背景是萬物互聯(lián)。大數(shù)據(jù)、5G、物聯(lián)網(wǎng)等這些前沿技術(shù)的興起都為人工智能與實體產(chǎn)業(yè)的融合提供了充足動力。“AI+”也被寄予著在未來撬動整個社會經(jīng)濟深度變革和人類文明科學有序進展下去的厚望。

對于人工智能的未來,李紀洲表示,平民化的產(chǎn)品應(yīng)該是未來大數(shù)據(jù)分析的方向,尤其在未來客戶普遍對大數(shù)據(jù)分析有了一定認識后,做人人可用的產(chǎn)品直接賦能用戶,可以減去廠商和用戶之間大量的溝通成本??偠灾夹g(shù)的發(fā)展終歸是要讓技術(shù)越來越簡單化、平民化。借助于人工智能的技術(shù),未來每一個人都可以成為數(shù)據(jù)分析師。

“人工智能不新鮮,但人工智能還很幼小,它未來的潛力無限,但現(xiàn)在人們把這個東西無限放大了,實際上我們離這一步還非常遙遠,人工智能不是像大家現(xiàn)在看到的那樣一下子就來了。”于建崗表示。

“人工智能有可能是泡沫,但別害怕這個泡沫破滅。”華為創(chuàng)始人任正非曾這樣表示。就像是晦暗河流之上的一座燈塔,人工智能吸引著人類的注視和追逐,我們距離這座燈塔還有多遠?眼下并沒有確切答案,每個走在前沿的AI企業(yè)都在無人區(qū)摸索前進。而眼下的每一個難關(guān),都是必經(jīng)之道。作為一項能夠大規(guī)模提升生產(chǎn)效率的技術(shù),AI的前景不可限量,盡管當前道路阻力重重,重要的是人類沒有因此停下腳步。

·人工智能大家談·

久其軟件人工智能研究院院長 龔佶敏

用“天才白癡”來形容現(xiàn)在的人工智能其實特別合適,我們不能因此否定它現(xiàn)在擁有的智慧。對于目前人工智能的技術(shù)發(fā)展正處在一個什么階段,沒法給出準確的回答,但未來是無限可期的。

綠灣科技副總裁 王興讓

人工智能這個行業(yè)確實是一個趨勢,但這個趨勢需要幾個要素。第一個是需要技術(shù)來驅(qū)動,只有計算機技術(shù)、人工智能技術(shù)到這個程度了,你才能推進業(yè)務(wù)發(fā)展,所以要技術(shù)做源動力。第二個是要需求來牽引,如果沒有業(yè)務(wù)需求,實現(xiàn)不了商業(yè)化,就沒有營收來滋養(yǎng)你的技術(shù)進步,所以技術(shù)需要需求的牽引力。第三個就是要有配套的商業(yè)模式來做它的孵化器。這三者是一個相輔相成的關(guān)系。

綠灣科技CTO 于建崗

為什么從象棋到圍棋對人工智能來說是個巨大進步,因為圍棋可搜索空間比象棋要多得多。但畢竟圍棋有固定規(guī)則,在有規(guī)則的情況下做人工智能是比較容易的,但實際生活中的規(guī)則太多了,這對人工智能的學習是很大挑戰(zhàn),這就需要一個行業(yè)一個行業(yè)地去解決。

久其軟件產(chǎn)品中心副總經(jīng)理 李紀洲

很多的所謂AI應(yīng)用,從本質(zhì)上來看還都是大數(shù)據(jù)的應(yīng)用。AI只是露出來的冰山一角,從數(shù)據(jù)的采集到存儲、管理等都需要一整套大數(shù)據(jù)平臺的支撐?,F(xiàn)在的“AI+”更多地聚焦于把系統(tǒng)做得簡單易用,是錦上添花的東西;未來應(yīng)該更關(guān)注于用戶的核心生產(chǎn)場景,真正實現(xiàn)雪中送炭。

文 / 李婷

右側(cè)廣告
新聞排行

本網(wǎng)站所有內(nèi)容屬北京商報社有限公司,未經(jīng)許可不得轉(zhuǎn)載。 商報總機:010-64101978 媒體合作:010-64101871

商報地址:北京市朝陽區(qū)和平里西街21號 郵編:100013 法律顧問:北京市中同律師事務(wù)所(010-82011988)

網(wǎng)上有害信息舉報  違法和不良信息舉報電話:010-84276691 舉報郵箱:bjsb@bbtnews.com.cn

ICP備案編號:京ICP備08003726號-1  京公網(wǎng)安備11010502045556號  互聯(lián)網(wǎng)新聞信息服務(wù)許可證11120220001號