三级片入口,一本久久a,熟女无修正视频一区,蜜桃视频免费成人电影

云服務(wù)

熱門搜索: 防爆監(jiān)控 電動(dòng)機(jī) 防爆暖通 防爆風(fēng)機(jī)

首頁(yè) 行業(yè)資訊 政策解讀 電商會(huì)議 人物觀點(diǎn) 電商數(shù)據(jù) 電商干貨 電商報(bào) 博文資訊 客戶庫(kù) 企業(yè)庫(kù)
首頁(yè)>新聞詳情

當(dāng)人工智能遇上醫(yī)生會(huì)發(fā)生什么

2017年4月5日 來(lái)源:科工網(wǎng)-國(guó)際互聯(lián)網(wǎng)+生態(tài)服務(wù)平臺(tái) 瀏覽 812 次 評(píng)論 0 次

2016年11月的一個(gè)晚上,美國(guó)紐約布朗克斯區(qū)(Bronx)的一名54歲女子因?yàn)閲?yán)重頭痛被送至哥倫比亞大學(xué)(Columbia University)醫(yī)療中心的急診室。她對(duì)急診室醫(yī)生說(shuō)自己視力變得模糊,左手感到麻木無(wú)力。醫(yī)生安排了CT檢查。


過(guò)了幾個(gè)月后,1月的某個(gè)上午,4名放射科醫(yī)師擠在醫(yī)院三樓一間房子的電腦前,房間黑暗無(wú)窗,只有屏幕的光,看起來(lái)好像被海水過(guò)濾。哥倫比亞大學(xué)神經(jīng)放射科主任Angela Lignelli-Dipple博士拿著鉛筆和平板電腦站在一群住院醫(yī)師身后。她正在訓(xùn)練他們讀CT片子。


▲Angela Lignelli-Dipple博士(圖片來(lái)源:columbiadoctors)


Lignelli-Dipple博士說(shuō):“一旦大腦顯示出死亡和灰色,診斷中風(fēng)很容易。關(guān)鍵是在大多數(shù)神經(jīng)細(xì)胞死亡之前診斷出中風(fēng)?!敝酗L(fēng)通常是由血管堵塞或出血引起的,神經(jīng)放射學(xué)家大約有45分鐘的窗口時(shí)間,這樣醫(yī)生才能夠及時(shí)進(jìn)行醫(yī)學(xué)干預(yù),溶解血凝塊?!跋胂衲悻F(xiàn)在就在急診室,”Lignelli-Dipple博士繼續(xù)說(shuō)道,“每一分鐘過(guò)去,大腦的某一部分也死去。失去時(shí)間就意味著失去大腦?!?


她瞥了一眼墻上的時(shí)鐘,秒針滴答響。她問(wèn)這些醫(yī)生,“問(wèn)題到底在哪里呢?”


中風(fēng)通常發(fā)生在單側(cè)。血液進(jìn)入大腦后分別流向左右兩側(cè),然后再流到血管分支。血凝塊或出血通常只會(huì)影響這些分支中的一個(gè),導(dǎo)致大腦單側(cè)的功能缺陷。當(dāng)神經(jīng)細(xì)胞失去供血并死亡時(shí),組織會(huì)稍微膨脹。CT影像上,解剖結(jié)構(gòu)的邊界可能變得模糊。終,組織收縮,尾隨著陰影。但是,這種陰影通常會(huì)在CT掃描幾個(gè)小時(shí)甚至幾天之后才會(huì)出現(xiàn),這時(shí)候早就過(guò)了干預(yù)窗口期。“在此之前,”Lignelli-Dipple博士告訴我:“CT上只會(huì)出現(xiàn)少許暗示?!边@是中風(fēng)的預(yù)兆。


電腦屏幕上顯示著這名布朗克斯區(qū)女子的腦部CT圖像,從頭骨底部到頂部水平掃描,看起來(lái)像是一個(gè)切開的瓜。住院醫(yī)師們快速過(guò)每一張圖片,仿佛快速翻閱一本書,同時(shí)說(shuō)出每一個(gè)解剖結(jié)構(gòu):小腦、海馬體、島狀皮層、紋狀體、胼胝體、腦室。突然,一名20多歲的住院醫(yī)師停在一張片子上,用筆尖指著右側(cè)腦部的一塊區(qū)域說(shuō):“這里有些東西。邊界看起來(lái)模糊。”對(duì)我來(lái)說(shuō),整個(gè)圖像看起來(lái)都那么不協(xié)調(diào)和模糊——模糊的像素——但他顯然看到一些不尋常的東西。


▲大腦CT圖片,紅圈處為中風(fēng)區(qū)域(圖片來(lái)源:brainpictures)


“模糊?”Lignelli-Dipple博士提高聲音,“你能描述清楚一點(diǎn)嗎?”


這名住院醫(yī)師在努力搜索詞匯。他停頓住,就像進(jìn)入自己大腦的解剖結(jié)構(gòu)考慮各種可能。后他說(shuō)“這里不連續(xù)?!比缓舐柫寺柤纾拔也恢?,只是看起來(lái)很有意思。”


接著,Lignelli-Dipple博士拿出20小時(shí)后的第二次CT掃描結(jié)果,這名住院醫(yī)師指的地方變得混沌和膨脹。幾天后的一系列掃描結(jié)果說(shuō)明了后面發(fā)生的事,一個(gè)明顯的楔形場(chǎng)灰色出現(xiàn)了。實(shí)際上,這名婦女到達(dá)急診室后不久,神經(jīng)科醫(yī)生就試著用藥物疏通堵塞的動(dòng)脈,但是她到得太晚了。第一次CT掃描幾個(gè)小時(shí)過(guò)后,她開始失去意識(shí),馬上被送進(jìn)ICU病房。過(guò)了2個(gè)月,她還在住院治療,身體的左側(cè)從上臂到腿全部癱瘓。


我和Lignelli-Dipple博士起去了她的辦公室。我就從那里學(xué)到了“學(xué)習(xí)”:醫(yī)生如何學(xué)習(xí)診斷?機(jī)器也能學(xué)會(huì)診斷嗎?


2


我對(duì)診斷的認(rèn)識(shí)是從1997年秋天開始,當(dāng)時(shí)我在波士頓的醫(yī)院進(jìn)行臨床實(shí)習(xí)輪轉(zhuǎn)。準(zhǔn)備實(shí)習(xí)時(shí),我讀了一本經(jīng)典的醫(yī)學(xué)教科書,上面將診斷行為分為四個(gè)階段。首先,醫(yī)生通過(guò)患者的病史和身體檢查來(lái)收集患者主訴或身體狀況。接下來(lái),整理這些信息以生成潛在原因列表。然后,通過(guò)問(wèn)診和初步檢測(cè)幫助消除某些假設(shè),并加強(qiáng)其他假設(shè),這就是所謂的“鑒別診斷”。醫(yī)生權(quán)衡疾病的發(fā)病率、患者的病史、風(fēng)險(xiǎn)和暴露情況等因素(就像俗話說(shuō)的,“當(dāng)你聽到蹄聲時(shí),應(yīng)該想到馬而不是斑馬”)。通過(guò)把清單項(xiàng)目一個(gè)個(gè)排除,醫(yī)生優(yōu)化自己的判斷。后,醫(yī)生會(huì)采用實(shí)驗(yàn)室檢驗(yàn),比如X射線或CT掃描來(lái)進(jìn)一步確認(rèn)假設(shè)并得出診斷結(jié)論。這種逐步判斷的過(guò)程在醫(yī)學(xué)教科書中傳授了數(shù)十年,診斷從癥狀到病因嚴(yán)格的方法學(xué)被逐漸印在了幾代醫(yī)學(xué)生身上。



但是,我很快意識(shí)到真正的診斷藝術(shù)并沒(méi)那么簡(jiǎn)單。我的醫(yī)學(xué)院主任是一個(gè)優(yōu)雅的新英格蘭人,常穿一雙光亮的鞋,口音僵硬。他深以自己為診斷專家而自豪。他會(huì)要求病人展示出一種癥狀,比如咳嗽,然后靠到椅子里,說(shuō)出一串形容詞。他可能會(huì)說(shuō)“刺耳尖銳的”,或者說(shuō)“沉悶的”,仿佛在描述一瓶波爾多葡萄酒。對(duì)我來(lái)說(shuō),所有的咳嗽都聽起來(lái)完全一樣,但是我會(huì)跟著一起說(shuō)“是的,刺耳”,就像一個(gè)憂慮的葡萄酒品酒師。


對(duì)咳嗽的分類會(huì)立即縮小診斷的可能性。他可能會(huì)說(shuō),“聽起來(lái)好像是一種肺炎”,或者說(shuō)是“充血性心力衰竭的濕疹”。接著,他會(huì)問(wèn)一大堆問(wèn)題。病人近體重是否增加?有沒(méi)有接觸石棉?他會(huì)要求病人再次咳嗽,俯身用聽診器仔細(xì)聆聽。根據(jù)回答,他可能會(huì)判斷另外的可能性。然后,他會(huì)像路邊魔術(shù)師那樣突然宣布診斷結(jié)果“心力衰竭!”——并開出檢驗(yàn)單來(lái)驗(yàn)證。結(jié)果通常都沒(méi)錯(cuò)。


幾年前,巴西的研究人員研究了放射科專家的大腦,以了解他們?nèi)绾巫龀鲈\斷。這些經(jīng)驗(yàn)豐富的診斷醫(yī)師到底是用精神的“規(guī)則手冊(cè)”,還是“模式識(shí)別或非分析推理”對(duì)圖像進(jìn)行識(shí)別?


參加實(shí)驗(yàn)的25名放射科醫(yī)生被要求觀看肺部X射線片子,MRI用來(lái)跟蹤他們大腦的活動(dòng)。X射線圖像在他們之前閃過(guò)。一組圖像包含常見(jiàn)的單一病理?yè)p傷,可能是肺部的棕櫚狀陰影,或者積聚在肺內(nèi)襯層后面的沉悶,不透明的流體壁。第二組圖像是動(dòng)物線條圖; 第三組是字母輪廓。三種類型的圖像隨機(jī)展示,放射科醫(yī)生需要盡快說(shuō)出病灶,動(dòng)物或字母的名稱,而MRI機(jī)器追蹤他們大腦的活動(dòng)。放射科醫(yī)生平均需要1.33秒才能做出診斷。在所有三種情況下,大腦相同的區(qū)域亮起:左耳附近的神經(jīng)元寬三角洲,還有顱骨后基上方的蛾形帶。


研究人員后總結(jié):當(dāng)醫(yī)生識(shí)別出某種特征或以前已知的病變時(shí),大腦過(guò)程與識(shí)別日常生活的事物相似。識(shí)別病變類似于識(shí)別動(dòng)物的過(guò)程。當(dāng)你認(rèn)識(shí)犀牛時(shí),你不會(huì)考慮其他動(dòng)物。你也不會(huì)認(rèn)為是獨(dú)角獸,穿山甲和小象組成的動(dòng)物。你是從整體認(rèn)知犀牛的——作為一種模式。放射科醫(yī)生也是如此。他們沒(méi)有經(jīng)過(guò)沉思,回憶,區(qū)分,而是看到一個(gè)普通的東西。我的老師也一樣,那些濕漉漉的聲音也像一個(gè)熟悉的叮當(dāng)聲一樣被認(rèn)出。


3


1945年,英國(guó)哲學(xué)家Gilbert Ryle先生做了一場(chǎng)很有影響力的報(bào)告,關(guān)于兩種知識(shí)類型。一個(gè)孩子知道自行車有兩個(gè)輪子,它的輪胎充滿了空氣,踩著腳踏板轉(zhuǎn)圈車子會(huì)向前走。Ryle先生將這種知識(shí)稱為事實(shí)的、命題的類別—— 即“知道是什么”。但是學(xué)習(xí)騎自行車涉及另一個(gè)學(xué)習(xí)領(lǐng)域。一個(gè)孩子通過(guò)摔跤,在兩輪上平衡,走坑洼路而學(xué)會(huì)騎車。Ryle先生將這種知識(shí)成為隱含的,體驗(yàn)式的,基于技能的——即“知道怎么做”。


▲英國(guó)哲學(xué)家Gilbert Ryle先生(圖片來(lái)源:philosophybasics)


這兩種知識(shí)似乎是相互依賴的:你可以使用事實(shí)知識(shí)來(lái)深化你的體驗(yàn)知識(shí),反之亦然。但是,Ryle先生也提出,不能從“知道是什么”簡(jiǎn)單推導(dǎo)出“知道怎么做”,正如一本教導(dǎo)手冊(cè)無(wú)法教會(huì)孩子騎自行車。他說(shuō),只有當(dāng)我們知道怎么運(yùn)用規(guī)則時(shí),規(guī)則才有意義:“規(guī)則就像鳥兒一樣,在做成標(biāo)本之前必須活著?!币惶煜挛?,我看著7歲的女兒騎著自行車越過(guò)一座小坡。她第一次在斜坡陡峭的地方摔了下來(lái)。第二次,我看到她稍微向前傾斜,然后更加傾斜,她不斷根據(jù)斜坡的減緩調(diào)整身體重量在座位上的分布。但是我并沒(méi)有教過(guò)她騎車上坡的規(guī)則。我認(rèn)為她也不會(huì)教她的女兒騎車上坡的規(guī)則。我們教給大腦一些常識(shí),讓它自己去解決剩下的問(wèn)題。


在參加Lignelli-Dipple博士給放射科學(xué)員的培訓(xùn)之后,我和Steffen Haider先生談過(guò),他就是那個(gè)在CT片子上發(fā)現(xiàn)早期卒中的年輕人。他是怎么發(fā)現(xiàn)病變的?是“知道是那樣”還是“知道怎么做”?他開始告訴我有關(guān)學(xué)習(xí)的規(guī)則——中風(fēng)往往是單邊的,它們導(dǎo)致組織微妙的“變灰”, 組織常表現(xiàn)出微腫,造成解剖邊界的模糊。他說(shuō):“大腦中有供血特別脆弱的地方。為了識(shí)別病變,他必須在單側(cè)腦室搜索跟另一側(cè)不一樣的地方。


我提醒他,有很多不對(duì)稱的影像他都忽略了。事實(shí)上大多數(shù)CT片子上都會(huì)有很多只出現(xiàn)在單側(cè)腦室的陰影,他是怎么把注意力縮小到那個(gè)正確的部位?他停下來(lái)想了很久回答,“我不知道,有些潛意識(shí)的感覺(jué)?!?


他的老師Lignelli-Dipple博士告訴我,“這就是放射科醫(yī)生的成長(zhǎng)和學(xué)習(xí)”。問(wèn)題是,機(jī)器能否以同樣的方式“成長(zhǎng)和學(xué)習(xí)”?


4


2015年1月,計(jì)算機(jī)科學(xué)家Sebastian Thrun博士對(duì)醫(yī)學(xué)診斷的難題感興趣。Thrun博士在德國(guó)長(zhǎng)大,精瘦的,剃著光頭,有一種喜感,看起來(lái)像Michel Foucault(法國(guó)哲學(xué)家)先生和憨豆先生的組合。他曾是斯坦福大學(xué)(Stanford University)教授,研究方向是人工智能;隨后去了Google公司,在那里發(fā)起了Google X項(xiàng)目,從事自學(xué)機(jī)器人和無(wú)人駕駛汽車的研究工作。后來(lái),他的興趣又轉(zhuǎn)向醫(yī)學(xué)中的機(jī)器學(xué)習(xí)。其母49歲死于乳腺癌。現(xiàn)在Thrun博士也正好49歲。他談到“大多數(shù)癌癥患者是沒(méi)有癥狀的,我媽媽就是這樣。當(dāng)她去看醫(yī)生時(shí),癌癥已經(jīng)轉(zhuǎn)移了。所以,我很想在還可以進(jìn)行手術(shù)的早期階段發(fā)現(xiàn)癌癥。我一直在想,機(jī)器學(xué)習(xí)算法能做到嗎?”


▲計(jì)算機(jī)科學(xué)家Sebastian Thrun博士(圖片來(lái)源:斯坦福大學(xué)官網(wǎng))


自動(dòng)化診斷的早期研究是讓機(jī)器學(xué)習(xí)教科書的顯性知識(shí)。在過(guò)去20年中,電腦解讀是自動(dòng)化診斷的一大特點(diǎn),解決方案往往比較簡(jiǎn)單。比如記錄心電圖,這是一種在紙或屏幕上顯示心臟活動(dòng)的線條。心電圖的特征波形與各種疾病相關(guān)——心房顫動(dòng)或血管阻塞。將識(shí)別波形的規(guī)則輸入到應(yīng)用中,當(dāng)機(jī)器識(shí)別波形時(shí),就給這部分心跳標(biāo)記,例如“心房顫動(dòng)”。


在乳腺X線照相術(shù)中,“計(jì)算機(jī)輔助檢測(cè)”也很常見(jiàn)。模式識(shí)別軟件突出顯示可疑部位,放射科醫(yī)師審查結(jié)果。但是,識(shí)別軟件依然是典型地使用基于規(guī)則的系統(tǒng)來(lái)識(shí)別可疑病變。這樣的程序沒(méi)有內(nèi)置的學(xué)習(xí)機(jī)制,一臺(tái)已經(jīng)看過(guò)3000張X光片的機(jī)器并不比僅僅看過(guò)4張的更聰明。2007年的一項(xiàng)研究比較了采用計(jì)算機(jī)輔助診斷前后乳房X線照相術(shù)的準(zhǔn)確性。人們可能覺(jué)得在加入計(jì)算機(jī)之后,診斷的準(zhǔn)確性會(huì)顯著增加。事實(shí)是,雖然計(jì)算機(jī)輔助組的活檢比例迅速上升,但是腫瘤學(xué)家希望發(fā)現(xiàn)的小的浸潤(rùn)性乳腺癌比例,反而減少了。后來(lái)還發(fā)現(xiàn)假陽(yáng)性的問(wèn)題。


Thrun博士相信他可以超越這些第一代診斷設(shè)備,將它們從基于規(guī)則的算法轉(zhuǎn)變?yōu)榛趯W(xué)習(xí)的算法來(lái)——從“知道怎么做”而不是“知道是什么”來(lái)做出診斷結(jié)論。跟Thrun博士類似的學(xué)習(xí)算法越來(lái)越多地采用了“神經(jīng)網(wǎng)絡(luò)”的計(jì)算策略,因?yàn)樗鼈兊脑O(shè)計(jì)靈感來(lái)自于大腦功能模型。在大腦中,神經(jīng)突觸通過(guò)反復(fù)激活得到加強(qiáng)或減弱,這些算法也希望采用數(shù)學(xué)手段實(shí)現(xiàn)類似的認(rèn)知方式,不斷調(diào)整判斷依據(jù)的“權(quán)重”,使輸出結(jié)果逐漸走向準(zhǔn)確。另一種更強(qiáng)大學(xué)習(xí)算法則類似大腦神經(jīng)元層,每層處理輸入數(shù)據(jù)并將結(jié)果發(fā)送到下一層。因此,也被稱為“深度學(xué)習(xí)”。


可以教會(huì)機(jī)器通過(guò)掃描照片區(qū)分皮膚癌與良性皮膚疾病——痤瘡,皮疹或痣嗎?Thrun博士推理,“如果皮膚科醫(yī)生可以做到這一點(diǎn),那么機(jī)器也應(yīng)該能夠做到。也許機(jī)器還可以做得更好?!盩hrun博士從皮膚癌開始進(jìn)行研究。他選了角化細(xì)胞惡性腫瘤(美國(guó)常見(jiàn)的一類癌癥)和黑色素瘤(惡性程度的皮膚癌)。


傳統(tǒng)上,皮膚病學(xué)教學(xué)黑色素瘤從認(rèn)識(shí)基本規(guī)則開始,就像醫(yī)學(xué)生學(xué)習(xí)的口訣:ABCD。黑色素瘤通常是不對(duì)稱的(“A”,asymmetrical ),邊界(“B”,borders )不均勻,顏色(“C”,color)是斑塊狀或雜色的,并且直徑(“D”,diameter )通常大于6毫米。但是,當(dāng)Thrun博士在醫(yī)學(xué)教科書和網(wǎng)絡(luò)上查看黑素瘤標(biāo)本時(shí),發(fā)現(xiàn)了不符合以上規(guī)則的病例。


當(dāng)時(shí)在斯坦福大學(xué)任兼職教授的Thrun博士招募了2名學(xué)生Andre Esteva先生和Brett Kuprel先生來(lái)開展工作。他們的第一個(gè)任務(wù)是編一個(gè)所謂的“教材包”——收集大量的圖片用于教導(dǎo)機(jī)器識(shí)別惡性腫瘤。學(xué)生在網(wǎng)上搜了18個(gè)皮膚病例圖像分類庫(kù),含有13萬(wàn)張圖片,包括各種皮膚狀況,涉及2000種疾病,包括痤瘡,皮疹,昆蟲叮咬,過(guò)敏反應(yīng)和癌癥等。值得注意的是,有一組2000個(gè)病變已經(jīng)過(guò)病理學(xué)活檢確診。


接下來(lái)Esteva先生和Kuprel先生開始培訓(xùn)系統(tǒng)。他們沒(méi)有用規(guī)則編程,沒(méi)有教ABCD原則。相反,他們只是將這些圖像資料及診斷分類標(biāo)準(zhǔn)提供給神經(jīng)網(wǎng)絡(luò)。我請(qǐng)Thrun描述一下這樣一個(gè)網(wǎng)絡(luò)。



他說(shuō):“想象一下老式的程序怎么識(shí)別狗。軟件工程師會(huì)寫1000行if-then-else的邏輯代碼:如果有耳朵,豬嘴,并有頭發(fā),則不是老鼠……等等無(wú)限的判斷語(yǔ)句。但是,這顯然不是小孩認(rèn)識(shí)狗的方式。起初,小孩通過(guò)看見(jiàn)狗,被教導(dǎo)這是狗而認(rèn)識(shí)狗;她會(huì)認(rèn)錯(cuò),然后糾正自己。比如她會(huì)把狼認(rèn)成狗,然后被大人糾正這兩種動(dòng)物不是同一類。她一次次調(diào)整自我認(rèn)知:這是“狗”,那是“狼”。


機(jī)器學(xué)習(xí)也是這樣。它會(huì)從已分類的訓(xùn)練中提取信息。這張圖是狗,那張圖不是狗。它會(huì)從不同類別中歸納出特征。通過(guò)觀察成百上千張歸類的圖片,它終形成自己認(rèn)狗的方法,這和小孩認(rèn)狗的方法一樣。他們只是知道怎么做。


2015年6月,Thrun博士的團(tuán)隊(duì)通過(guò)“驗(yàn)證包”來(lái)測(cè)試機(jī)器從教材圖像的學(xué)習(xí)成果。采用由皮膚科醫(yī)生給出診斷(不一定是活檢)結(jié)果的大約14,000張圖像,測(cè)試機(jī)器能否將圖像正確歸到以下三類——良性病變,惡性病變和非腫瘤學(xué)增生。系統(tǒng)得到了72%的正確率(算法實(shí)際輸出的判斷不是“是”或“否”,而是某種病變的概率)。2名經(jīng)過(guò)斯坦福大學(xué)董事會(huì)認(rèn)證的皮膚科醫(yī)生同時(shí)參加測(cè)試,他們只得到66%的正確率。


接著,Thrun博士、Esteva先生和Kuprel先生又將研究范圍擴(kuò)大到25名皮膚科醫(yī)師,這次他們使用了金標(biāo)準(zhǔn)“測(cè)試包”,經(jīng)過(guò)活檢驗(yàn)證的約2000張圖片。在幾乎每一次測(cè)試中,機(jī)器的敏感性(不會(huì)錯(cuò)過(guò)陽(yáng)性樣本)和特異性(不會(huì)誤認(rèn)陰性樣本)都更高。該團(tuán)隊(duì)在自然雜志發(fā)表的一篇論文中得出這樣的結(jié)論:“在每次測(cè)試中,算法均優(yōu)于專業(yè)的皮膚科醫(yī)師?!?


在這篇文章中沒(méi)有被完全強(qiáng)調(diào)的一點(diǎn)是,在研究的第一次迭代中,Thrun博士的團(tuán)隊(duì)使用了一個(gè)嶄新的神經(jīng)網(wǎng)絡(luò)。但是他們發(fā)現(xiàn),如果一開始使用的是已經(jīng)受訓(xùn)并能識(shí)別一些不相關(guān)的特征(比如狗與貓)的神經(jīng)網(wǎng)絡(luò),它會(huì)學(xué)得更快并且更好。也許我們的大腦也有類似功能。那些讓人心煩的高中習(xí)題——多項(xiàng)式因子分解,動(dòng)詞的共軛形式,記憶元素周期表,可能是相反類型的知識(shí)。我們的意識(shí)非常敏感。


Thrun博士希望人們有一天可以簡(jiǎn)單用智能手機(jī)提交令人擔(dān)憂的病變照片,這意味著系統(tǒng)需要能夠識(shí)別各種角度和光線。但是,在教機(jī)器時(shí),需要對(duì)圖像進(jìn)行仔細(xì)處理。他提到“在一些圖片中,黑色素瘤已被標(biāo)記為黃色。我們不得不把這些圖片剔除,否則機(jī)器就會(huì)學(xué)到黃色是癌癥的一種特征?!?


這是一個(gè)古老的難題:一個(gè)世紀(jì)前,德國(guó)公眾被聰明的漢斯(一匹可以做加減法的馬)吸引——它可以通過(guò)踏蹄來(lái)表達(dá)出答案。事實(shí)證明,聰明的漢斯實(shí)際上是感覺(jué)到它的訓(xùn)練者的表情。隨著馬的蹄頭接近正確答案,訓(xùn)練者的表情和姿勢(shì)就會(huì)放松。動(dòng)物的神經(jīng)網(wǎng)絡(luò)沒(méi)有學(xué)過(guò)算術(shù),但它學(xué)會(huì)識(shí)別人身體語(yǔ)言的變化。Thrun博士說(shuō),“這就是神經(jīng)網(wǎng)絡(luò)奇特的地方,你不知道它們會(huì)接受什么。它們就像黑匣子,里面的工作是神秘的。”


“黑匣子”問(wèn)題在深度學(xué)習(xí)中很流行。Thrun博士研發(fā)的算法系統(tǒng)不是由明確的醫(yī)學(xué)知識(shí)庫(kù)和診斷規(guī)則列表引導(dǎo)的,它通過(guò)進(jìn)行大量的內(nèi)部調(diào)整,有效地自學(xué)如何區(qū)分痣與黑素瘤,類似于加強(qiáng)和削弱大腦中的神經(jīng)突觸連接。究竟它是如何確定病變是黑色素瘤的?我們不知道,它也不能告訴我們。神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)時(shí)的內(nèi)部修正和處理過(guò)程均不受我們控制。正如我們自己的大腦一樣。當(dāng)你在自行車上慢慢轉(zhuǎn)彎時(shí),你會(huì)傾斜向相反的方向。我的女兒知道要這么做,但她沒(méi)意識(shí)到她在這么做。黑素瘤學(xué)習(xí)機(jī)肯定從圖像中提取了某些特征,但它沒(méi)法告訴我們是哪個(gè)特征,這重要嗎?這就像知識(shí)上帝在微笑。機(jī)器學(xué)習(xí)要做到這一點(diǎn),可以從動(dòng)物如何讀懂人的思維得到啟示:這也就是“只可意會(huì)不可言傳”。


關(guān)于未來(lái),Thrun博士構(gòu)想了一個(gè)人類不斷被診斷監(jiān)視的世界。我們的手機(jī)將分析移動(dòng)的語(yǔ)音模式來(lái)診斷阿茲海默??;方向盤會(huì)通過(guò)微小的猶豫和震顫來(lái)識(shí)別初期的帕金森??;浴缸在你洗澡時(shí)通過(guò)無(wú)害的超聲波或磁共振對(duì)身體掃描,以確定卵巢中是否有異常。大數(shù)據(jù)將觀察、記錄和評(píng)估你:我們穿梭于一個(gè)又一個(gè)算法中。進(jìn)入Thrun博士的浴缸和方向盤的世界就像進(jìn)入一個(gè)布滿皮膚科診療鏡的大廳,每個(gè)鏡子都督促我們做更多測(cè)試。


真的很難不被這個(gè)愿景吸引。一個(gè)不間斷地掃描我們(甚至細(xì)胞層面)的醫(yī)學(xué)程序,通過(guò)比較每一天圖像的變化,能夠發(fā)現(xiàn)早期的癌癥嗎?它能否為癌癥檢測(cè)提供突破?這場(chǎng)景聽起來(lái)令人印象深刻,但有一點(diǎn)要知道的是:許多癌癥始終是自限性的(不會(huì)發(fā)展成惡性腫瘤),我們可能帶癌死亡,不是因癌死亡。這種隨時(shí)隨地的診斷機(jī)器會(huì)不會(huì)導(dǎo)致數(shù)百萬(wàn)次不必要的活檢?在醫(yī)學(xué)上,有些病例早期診斷出來(lái)可以挽救或延長(zhǎng)生命。還有一些情況,你只會(huì)擔(dān)心更長(zhǎng),但不會(huì)活得更長(zhǎng)。要了解到什么程度,這是個(gè)難題。


當(dāng)我問(wèn)他這種系統(tǒng)對(duì)診斷學(xué)家的影響。Thrun博士回答道,“我對(duì)放大人類能力感興趣。你說(shuō)現(xiàn)代農(nóng)業(yè)是否消除了一些原始的耕種方式?絕對(duì)是的,但它同時(shí)也擴(kuò)大了我們生產(chǎn)農(nóng)產(chǎn)品的能力。并不是說(shuō)現(xiàn)代農(nóng)業(yè)的一切都是好的,但它確實(shí)使我們能夠養(yǎng)活更多的人。工業(yè)革命放大了人類的體力。手機(jī)放大了人類的言語(yǔ)能力。過(guò)去你不能從紐約對(duì)著加州的人喊話——我們倆確實(shí)通過(guò)這個(gè)距離對(duì)話——而你手中的這個(gè)長(zhǎng)方形的設(shè)備可以讓人的聲音傳播三千里。手機(jī)取代了人聲嗎?不,手機(jī)是一個(gè)增強(qiáng)裝置。認(rèn)知革命將使計(jì)算機(jī)以同樣的方式放大人類的思維能力。正如機(jī)器使人類肌肉的強(qiáng)度提高了一千倍,機(jī)器也將使人類的腦力變得更強(qiáng)大。”Thrun博士堅(jiān)持認(rèn)為,這些深入學(xué)習(xí)儀器將不會(huì)取代皮膚科醫(yī)生和放射科醫(yī)生。它們會(huì)提供專業(yè)知識(shí)和幫助,使專業(yè)人員的能力增強(qiáng)。


5


多倫多大學(xué)(University of Toronto)計(jì)算機(jī)科學(xué)家Geoffrey Hinton博士談到學(xué)習(xí)機(jī)在臨床醫(yī)學(xué)中所起的作用就沒(méi)那么客氣了。他的曾曾祖父George Boole先生發(fā)明的Boole代數(shù)是數(shù)字計(jì)算的基石,因此也被譽(yù)為深度學(xué)習(xí)之父。Hinton博士從1970年代末就開始研究深度學(xué)習(xí),他的許多學(xué)生今天已經(jīng)成為這個(gè)領(lǐng)域的專家。


▲計(jì)算機(jī)科學(xué)家Geoffrey Hinton博士(圖片來(lái)源:多倫多大學(xué)官網(wǎng))


Hinton博士告訴我,“我認(rèn)為放射科醫(yī)生就像卡通漫畫里的歪心狼一樣(Wile E. Coyote),已經(jīng)在懸崖的邊緣,卻沒(méi)看到下面已經(jīng)沒(méi)有路了?!比榉亢托呐K影像方面已經(jīng)有深度學(xué)習(xí)產(chǎn)品面世。Hinton博士曾在一家醫(yī)院直言不諱地說(shuō),“5到10年內(nèi)深度學(xué)習(xí)超越放射醫(yī)師是顯而易見(jiàn)的。現(xiàn)在就不應(yīng)該繼續(xù)培養(yǎng)放射科醫(yī)生?!?


當(dāng)我問(wèn)放射科醫(yī)生Angela Lignelli-Dipple博士這個(gè)挑戰(zhàn)性的問(wèn)題,她指出,診斷放射科醫(yī)生的作用不僅僅是某種疾病類別判斷是或否。他們不只是找到引起中風(fēng)的栓塞部位,還會(huì)注意到其他部位的少量出血,這種情況用凝血藥會(huì)帶來(lái)災(zāi)難性的后果;此外還可能意外地發(fā)現(xiàn)尚無(wú)癥狀的腫瘤。


▲Geoffrey Hinton博士認(rèn)為,“歪心狼”的處境也許和目前的放射科醫(yī)生有些相似(圖片來(lái)源:The Fiscal Times)


Hinton博士現(xiàn)在有挑釁的資格,他對(duì)自動(dòng)化醫(yī)學(xué)未來(lái)的預(yù)測(cè)是基于簡(jiǎn)單的原則:“深度學(xué)習(xí)可以解決海量數(shù)據(jù)的分類問(wèn)題。未來(lái)會(huì)有數(shù)千種深度學(xué)習(xí)的應(yīng)用程序?!彼胍褜W(xué)習(xí)算法應(yīng)用到讀各種X射線,CT和MRI的影像圖片,這也是短期的應(yīng)用價(jià)值。談到未來(lái),他表示“學(xué)習(xí)算法會(huì)用于病理診斷。”它們可能會(huì)閱讀巴氏涂片,聽心臟聲音或預(yù)測(cè)精神病人的復(fù)發(fā)。Hinton博士說(shuō):“將來(lái),放射科醫(yī)生的角色將從完成感知事情(一只經(jīng)過(guò)良好訓(xùn)練的鴿子也能做到),演變到完成更多的認(rèn)知事情。”


我們還討論了黑箱問(wèn)題。雖然計(jì)算機(jī)科學(xué)家正在努力,但是Hinton博士承認(rèn)打開黑匣子的挑戰(zhàn),試圖了解這些強(qiáng)大的學(xué)習(xí)系統(tǒng)掌握的知識(shí)以和思考的方式極其重要。不過(guò),他認(rèn)為黑匣子是我們可以接受的一個(gè)問(wèn)題。他說(shuō):“想象一下,讓棒球運(yùn)動(dòng)員和物理學(xué)家比一比判斷落球位置。棒球運(yùn)動(dòng)員可能不知道任何方程式,但他投擲了上百萬(wàn)次,所以會(huì)清楚地知道球會(huì)升多高,速度多快,以及會(huì)落到地面的什么位置。物理學(xué)家則可以通過(guò)解方程來(lái)計(jì)算相同的東西。但是,終到達(dá)的點(diǎn)是完全相同的。”


我提到上一代計(jì)算機(jī)輔助檢測(cè)和診斷在乳腺X照相術(shù)上的表現(xiàn)不佳。Hinton博士承認(rèn)任何新技術(shù)都需要通過(guò)嚴(yán)格的臨床試驗(yàn)進(jìn)行評(píng)估。但他強(qiáng)調(diào),新的智能系統(tǒng)設(shè)計(jì)為從錯(cuò)誤中學(xué)習(xí)——隨著時(shí)間的推移而改進(jìn)?!拔覀儍?nèi)建一個(gè)系統(tǒng)記錄每次誤診——比如一個(gè)終得肺癌的病人記錄,再把數(shù)據(jù)重新輸入機(jī)器。我們可以問(wèn)機(jī)器,你在這里弄錯(cuò)了什么?你可以優(yōu)化診斷嗎?如果醫(yī)生診斷錯(cuò)誤,這名患者5年后癌癥發(fā)病,現(xiàn)行的醫(yī)療體系中很難有常規(guī)方式告訴醫(yī)生如何更正。但是我們可以建一個(gè)系統(tǒng)來(lái)教計(jì)算機(jī)來(lái)精準(zhǔn)地實(shí)現(xiàn)這一點(diǎn)?!?


有些雄心勃勃的機(jī)器學(xué)習(xí)算法想要整合自然語(yǔ)言處理(讀患者醫(yī)療記錄)、百科全書知識(shí)、期刊文獻(xiàn)和醫(yī)學(xué)數(shù)據(jù)庫(kù)。麻省劍橋的IBM沃森系統(tǒng)(Watson Health)和倫敦的DeepMind公司都希望創(chuàng)建這樣一個(gè)全面的系統(tǒng)。我在試運(yùn)行場(chǎng)合看過(guò)一些這樣系統(tǒng)演示,發(fā)現(xiàn)其中許多功能,特別是深入學(xué)習(xí)的組件,仍在開發(fā)中。


Hinton博士對(duì)深度學(xué)習(xí)在診斷中的未來(lái)十分著迷,部分源自他的自身經(jīng)歷。就在開發(fā)這種算法時(shí),他的妻子被診斷出晚期胰腺癌。他的兒子曾被診斷患有惡性黑素瘤,但后活檢確診為基底細(xì)胞癌,一種惡性程度較低的癌癥。Hinton嘆息道,“還有很多東西要學(xué)習(xí)。早期、準(zhǔn)確的診斷不是一個(gè)微不足道的問(wèn)題。我們可以做得更好。為什么不讓機(jī)器幫助我們?”


6


3月一個(gè)寒冷的早上,就在和Thrun博士和Hinton博士見(jiàn)面幾天之后,我去了位于曼哈頓第五十一街的哥倫比亞大學(xué)皮膚科診所。主治醫(yī)師Lindsey Bordone博士那天安排要看49名患者。10點(diǎn)鐘,候診室里坐滿了人。一個(gè)大約60歲的絡(luò)腮胡老人坐在角落里,用毛巾圍住了脖子上的皮疹。一對(duì)焦急的夫婦擠著看《時(shí)代周刊》。


▲主治醫(yī)師Lindsey Bordone博士(圖片來(lái)源:columbiadoctors)


Bordone博士快速地依次查看一連串病人。在熒光燈房間的后面,有一名護(hù)士坐在電腦前,給出了一些總結(jié)性的話——“五十歲,無(wú)病史,皮膚上有新的可疑斑點(diǎn)”,Bordone博士聽后沖進(jìn)檢查室,金發(fā)飛在身后。


一個(gè)30多歲的年輕人臉上出現(xiàn)鱗屑的紅疹。Bordone博士把他拉到燈下,用手持式皮膚鏡仔細(xì)地檢查皮膚,剝落的皮屑從他鼻子上掉下來(lái)。


“你有頭皮屑嗎?”她問(wèn)。


那個(gè)男人很困惑地說(shuō) “當(dāng)然”。


“嗯,這是面部頭皮屑,”Bordone博士告訴他?!扒闆r比較嚴(yán)重。但問(wèn)題是為什么現(xiàn)在出現(xiàn),為什么會(huì)惡化。你近使用過(guò)一些新的洗頭產(chǎn)品嗎?家里有沒(méi)有不尋常的壓力?


“肯定有一些壓力”,他說(shuō)。他近失去了工作,財(cái)務(wù)受到影響。


“保持寫日記,”她建議?!拔覀兛梢源_定跟這些生活變化是否有關(guān)?!彼龑懥艘粋€(gè)甾體霜的處方,并要求他在一個(gè)月內(nèi)復(fù)查。


隔壁的房間里,一位年輕的律師助理頭皮上有一些瘙癢的疙瘩。當(dāng)Bordone博士碰他頭皮時(shí),他縮了一下。她說(shuō)“脂溢性皮炎”,考試結(jié)束。


另一間房間里,一位婦女脫下衣服,換上病號(hào)服。她曾患有黑色素瘤,現(xiàn)在積極地做預(yù)防復(fù)發(fā)的檢查。Bordone博士仔細(xì)檢查她的皮膚,一個(gè)個(gè)斑點(diǎn)地看過(guò)去?;?0分鐘,但是她查得全面徹底,用手指摸過(guò)痣和皮贅,隨著手指移動(dòng)不斷說(shuō)出判斷。有痣和角化病,但沒(méi)有黑素瘤或癌變?!翱雌饋?lái)都很好”,醫(yī)生后高興的總結(jié)。女患者松了口氣。


就這樣:Bordone博士走進(jìn)來(lái),察看病情,給出診斷結(jié)論。她給人的感覺(jué)完全不像Hinton博士說(shuō)的歪心狼,而像是那個(gè)有點(diǎn)狂躁的BB鳥(Roadrunner),她看一連串病人,就像設(shè)法跟上腳下的跑步機(jī)節(jié)奏。當(dāng)她在后面的房間里寫醫(yī)囑時(shí),我問(wèn)她怎么看Thrun博士描述的診斷愿景:iPhone圖片通過(guò)電子郵件發(fā)送到功能強(qiáng)大的非現(xiàn)場(chǎng)網(wǎng)絡(luò),這個(gè)網(wǎng)絡(luò)具有毋容置疑但難以理解的專業(yè)知識(shí)。像Bordone博士這樣的全職皮膚科醫(yī)生。一生中大概會(huì)看20萬(wàn)個(gè)病例。斯坦福機(jī)器的算法在3個(gè)月內(nèi)就吸收了近13萬(wàn)個(gè)案例。而且,不像新的皮膚科住院醫(yī)生需要從零開始接觸患者,Thrun博士的算法可以一直在吸收、成長(zhǎng)和學(xué)習(xí)。


▲醫(yī)生究竟是游刃有余的BB鳥,還是接近掉落懸崖的歪心狼?(圖片來(lái)源:Geek.com)


Bordone博士聽了聳聳肩。她說(shuō):“如果這有助于我做出更準(zhǔn)確的判斷,我會(huì)歡迎。我的一些病人在看到我之前可以把自己的皮膚問(wèn)題拍照,這樣會(huì)增加診所的覆蓋面?!?


這聽起來(lái)像是一個(gè)醫(yī)生的合理反應(yīng),我想起Thrun博士說(shuō)過(guò)的那些令人安心的評(píng)論——機(jī)器只是把人的能力增強(qiáng)。但是,當(dāng)機(jī)器越學(xué)越多,人會(huì)不會(huì)越學(xué)越少?父母長(zhǎng)期以來(lái)都在擔(dān)心:孩子的手機(jī)上有拼寫檢查功能,如果孩子不再去學(xué)拼寫怎么辦?這種現(xiàn)象被稱為“自動(dòng)化偏差”(automation bias)。自動(dòng)駕駛會(huì)使人警惕性降低,醫(yī)學(xué)自動(dòng)化也一樣。也許Bordone博士正像是蒸汽鉆即將面世前孤獨(dú)的John Henry先生(美國(guó)民間故事中,力量勝過(guò)了蒸汽鉆,但卻在比拼中由于心臟壓力過(guò)大而死去的悲劇英雄)。但是,她看病時(shí)全神貫注,認(rèn)真地用手指檢查每一個(gè)皮贅和痣,這些都是不能漏掉的看病細(xì)節(jié)。如果她與機(jī)器合作,還會(huì)繼續(xù)這樣嗎?


我還注意到Bordone博士與患者互動(dòng)的其他模式。一方面,患者看病后幾乎總是感覺(jué)更好。他們被醫(yī)生觸摸和仔細(xì)檢查,可以和醫(yī)生進(jìn)行交流。甚至醫(yī)生說(shuō)出的“痣”,“角化病”等病變名稱都像是潤(rùn)膚劑:這是一種深度療愈的過(guò)程。那個(gè)有黑色素瘤病史前來(lái)復(fù)查的婦女離開醫(yī)院時(shí)看起來(lái)精神很好,毫無(wú)精神負(fù)擔(dān),她的焦慮被解除了。


另一方面,像巴西研究人員可能猜到的,診斷時(shí)刻對(duì)Bordone博士來(lái)說(shuō)是一種瞬間認(rèn)知。當(dāng)她說(shuō)出“皮炎”或“濕疹”的時(shí)候,好像她正在認(rèn)出犀牛:當(dāng)她認(rèn)出這種疾病時(shí),幾乎可以看到她大腦底部的椎體神經(jīng)元在閃光。但訪問(wèn)并沒(méi)有結(jié)束。在幾乎每一個(gè)病例中,Bordone博士都花大量時(shí)間探索發(fā)病原因。為什么出現(xiàn)癥狀?是壓力嗎?新洗發(fā)水引起?有人改變了游泳池里的氯氣嗎?為什么是現(xiàn)在發(fā)???


我忽然意識(shí)到,臨床實(shí)踐強(qiáng)大的地方,不是“知道是什么”或者“知道怎么樣”,既不是掌握疾病事實(shí),也不是感知病情如何形成。而是第三個(gè)知識(shí)領(lǐng)域:知道為什么。



7


解釋可淺可深。手指上出現(xiàn)紅色的水泡,是因?yàn)槟忝艘粔K熱鐵。手指上出現(xiàn)紅色水泡,是因?yàn)闋C傷激發(fā)了前列腺素和細(xì)胞因子的炎癥級(jí)聯(lián)反應(yīng),一種我們至今仍未完全理解的調(diào)控過(guò)程。知道為什么——問(wèn)為什么,是我們獲得解釋的途徑,解釋越來(lái)越多,就會(huì)推動(dòng)醫(yī)學(xué)進(jìn)步。Hinton博士曾提到棒球運(yùn)動(dòng)員和物理學(xué)家的比喻。無(wú)論診斷醫(yī)生是機(jī)器還是人類,他們都像是那個(gè)熟練但難懂的棒球運(yùn)動(dòng)員。醫(yī)學(xué)研究人員則像那個(gè)物理學(xué)家,一個(gè)是臨床領(lǐng)域的理論家,一個(gè)是棒球場(chǎng)的理論家,兩者同樣渴望知道“為什么”。這樣的職責(zé)分工很簡(jiǎn)便,但會(huì)不會(huì)帶來(lái)?yè)p失?


“深度學(xué)習(xí)系統(tǒng)不具有任何解釋力”,Hinton博士坦率地說(shuō)。黑匣子不能調(diào)查原因。事實(shí)上,“深度學(xué)習(xí)系統(tǒng)越強(qiáng)大,越是不透明。隨著更多的特征被提取,診斷變得越來(lái)越準(zhǔn)確。為什么這些特征會(huì)從數(shù)百萬(wàn)個(gè)其他特征中選出來(lái),仍是未解之謎。”算法可以解決問(wèn)題,但不能建立問(wèn)題。


然而,我發(fā)現(xiàn)腫瘤學(xué)領(lǐng)域的醫(yī)學(xué)進(jìn)步經(jīng)常是由熟練的執(zhí)業(yè)醫(yī)師,同時(shí)也是充滿好奇和具有洞察力的研究人員推動(dòng)的。事實(shí)上,在過(guò)去的幾十年里,雄心勃勃的醫(yī)生一直努力扮演棒球運(yùn)動(dòng)員和物理學(xué)家的角色:他們通過(guò)癥狀去了解疾病的生理學(xué)原因。為什么皮膚病變的不對(duì)稱邊界預(yù)示著黑素瘤?為什么一些黑素瘤會(huì)自發(fā)退化,有時(shí)會(huì)出現(xiàn)白色皮膚斑塊?事實(shí)上,臨床醫(yī)生的觀察終導(dǎo)致了當(dāng)今臨床上有效的免疫藥物的發(fā)明——皮膚變白原來(lái)是免疫反應(yīng)的結(jié)果,這種反應(yīng)也可以治療黑素瘤。這一串發(fā)現(xiàn)始于診所。如果越來(lái)越多的臨床實(shí)踐被降級(jí)為越來(lái)越不透明的機(jī)器學(xué)習(xí)系統(tǒng),如果隱性和顯性這兩種知識(shí)形式之間日常自發(fā)的親密聯(lián)系——知道是什么,知道怎么做,知道為什么——開始退化,我們會(huì)不會(huì)做得越來(lái)越嫻熟,但卻越來(lái)越不能重新審視應(yīng)該做什么,不能在算法的黑匣子之外思考?


我和哥倫比亞皮膚科主任David Bickers博士談過(guò)自動(dòng)化的未來(lái)。他說(shuō),“我試著去讀懂Thrun博士的文章,我不明白背后的數(shù)學(xué)計(jì)算,但我知道這樣的算法可能會(huì)改變皮膚科的實(shí)踐。皮膚科醫(yī)師會(huì)不會(huì)失去工作?我不這么認(rèn)為,但我認(rèn)為必須努力地考慮如何將這些程序融入臨床實(shí)踐。我們?nèi)绾螢樗鼈兏犊??機(jī)器作出錯(cuò)誤的預(yù)測(cè)時(shí)該如何界定法律責(zé)任?依靠這樣的算法會(huì)不會(huì)減弱臨床醫(yī)生的操作能力或者形象?醫(yī)學(xué)領(lǐng)域終會(huì)不會(huì)培養(yǎng)出技術(shù)人員而不是醫(yī)生?”


說(shuō)到這,他看了下時(shí)間,有病人在等著,他便起身離開了?!拔耶吷荚谧鲈\斷學(xué)家和科學(xué)家。我知道病人有多依賴我從良性病變中分辨惡性病變的能力。我也知道醫(yī)學(xué)知識(shí)來(lái)自診斷。”他提醒我說(shuō),“診斷”一詞來(lái)自希臘語(yǔ),原意是“區(qū)分”。機(jī)器學(xué)習(xí)算法將來(lái)也只是在“區(qū)分”能力上更勝一籌——區(qū)分和辨識(shí)出痣與黑素瘤。但是,全方位認(rèn)知超越了以任務(wù)為中心的算法。在醫(yī)學(xué)領(lǐng)域,或許終極獎(jiǎng)賞還是要靠整體認(rèn)知。

我來(lái)說(shuō)兩句
人參與 丨 評(píng)論0條)
圖標(biāo)
注冊(cè) 登錄    
評(píng)論列表

品牌商品

國產毛片基地| 日韩精品一级二级三级| 操射人妻| 插入内射视频| 欧美日韩亚洲国产a| 国产精品丝袜在线观看| 天天在线综合| 97cao超碰| 无码人妻永久免费视频| 四虎久久精品国产| h黄AV网站| 日韩精品久热| 色综合久久久久久久久久久| 日韩专区亚洲色y图| 亚洲无码视频一区二区| 无码字幕日韩| 精品黄大片国产观看| 日韩一中文字幕在线视频| 世界一级毛片| 国语自产拍精品香蕉在线播放 | 欧美日韩国产精品一区二区| 国产精品无码两性| 男女又爽又黄视频| 国产日韩亚洲欧美日| 日韩欧美在线综合网另类| 精品无码毛片久久一区二区| 亚洲精灵天堂精品一区| 性无码专区一二三| 国产精品亚洲五月天高清色色综合| 欧洲AV一区二区三区在线| 国产黄色AV| 激情图区一区二区三区| 中文字幕亚洲无线码a| 亚州AV综合久久九九| 综合日韩中文字幕| 欧美 二区 中文字幕| 99热这里只有精品6国产免费| 国产青青草原| 久精品丝袜| 嗨啪啪人妻无码| 久久国产老熟女精品|