Mr./Ms. Days (MMDays) - 網路, 資訊, 觀察, 生活

Posted By Mr. Thursday
在本體論: 讓舉一反三變得可能裡面提到了機器在規則上面的學習，本體論 (ontology)是一件重要的事情，因為有了ontology，機器可以舉一反三，一件事情學習一次，可以以此類推到其他相同性質的事情上面，就如同我們第一堂數學課，學過了一顆蘋果加上一顆蘋果等於兩顆蘋果，考試的時候問一顆橘子加上一顆橘子等於幾顆橘子，我們知道是兩顆橘子，因為我們學到的是一個抽象後的規則： 1 + 1 = 2 ，不會因為蘋果換成橘子，就無法變通。
早期的人工智慧系統，是從邏輯出發，把外在的世界，轉換成一句一句的邏輯規則。或許我們會想問，為甚麼要用邏輯來表示外在世界呢？我們的大腦是用邏輯來處理事情嗎？首先，邏輯 (logic) 可以保證 sound and complete。甚麼又是 sound and complete呢？或許西方的法院裡面，證人作證之前，會先發誓說：I will tell the truth, the whole truth, nothing but the truth. (我會說實話，全部的真話，除了真話以外的都不說。) 因此 complete (完備) 就像是裡面所說的，「全部」的真話，不是部份的真話。sound (可靠) 就像是證人說的，「真話以外」都不說。因此我們如果使用邏輯內在表示法，來表示外在的真實世界，我們進行推理的時候，就不會推理出不會發生的事情。然而真實世界非常複雜，一滴雨滴從天上掉下來，中間溫度的變化，空氣摩擦力，地心引力，旁邊的雨滴，有許多的因素 (factor) 可以影響最後雨滴的位置。我們如果要用邏輯推理，前提的部分可能就要考慮所有可能的因素，才能保證我們用邏輯寫下來的規則，是真實的。
近代人工智慧系統，則是用機率表示法，加上統計對觀察資料的處理，來表示外在的世界。機率不會保證一個規則的sound and complete，但是會給這個規則一個機率值。如果機率值是0.7，代表說如果用了這個規則，100次裡面會有70次正確。或是說，如果有100次機會，70次用這個規則，會有最好的結果。再舉一個例子來說，今天我的手對著一把刀片揮下去，會被砍出一個傷口。我們就學一個規則：比手硬的東西，揮下去會受傷。但是一片硬的牆壁，手揮下去卻又沒有傷口，我們只好修改一下邏輯規則：比手硬，又尖尖的東西，揮下去會受傷。可是一堆沙堆出來一個刀片形狀，手揮下去，是沙堆破掉手沒有事情。因此對於邏輯系統來說，總是會一直出現「例外」，前提必須要不斷修改，才能保證整個規則的真實性。機率表示法來說，就是把例外當成可能發生的事情，「比手硬的東西，揮下去會受傷」的機率是0.8等等，剩下0.2的機率就是那些例外。不過機率也不全然是隨便給定，沒有真實的參考價值，也是要滿足一些基本條件，像是所有事件的機率加起來等於1等限制，因此可以證明如果照著算出來的機率值來行動，可以得到最好的期望值。
但是，除了邏輯和機率這兩種內在表示法，是否就沒有其他表示法，可以保證推理結果的真實性，又能夠處理真實世界複雜的各種因果關係，讓我們繼續活下去呢？或是說，怎樣子讓電腦計算機，可以像人類一樣，舉一反三，能夠化整為零，察覺到最細微的關鍵變化，又能夠「見樹又見林」，知道各個部分之間的關聯性，對整個全局 (big picture) 能夠有所了解呢？在這邊我想提出一個想法，就是「化整為零」。
熱門程度: 28%

熱門程度: 28%

Read Full Post »

Posted By Mr. Thursday
子曰:「舉一隅不以三隅反，則不復也。」所謂舉一反三，就是可以靈活應用已經學過的規則，在新的情況上面。譬如說，第一堂數學課，可能會教到一顆蘋果加上一顆蘋果，等於兩顆蘋果，但是考試的時候問到，一顆橘子加上一顆橘子，等於幾顆橘子？這個時候我們不會因為蘋果變成橘子，就忘記後面一個抽象化的規則：1 + 1 = 2 。因此，舉一反三就是能夠把經驗歸納成一個規則來表示，但是這個規則是一條具有彈性的規則，可以在適當的情況下拿出來應用，即使現在面對的情況和過去遇到的經驗有些微不同，譬如說蘋果變成橘子，但是我們可以把經驗抽象萃取出來的規則，靈活運用在新的情況上面，因此一顆橘子加一顆橘子，就如同一顆蘋果加上一顆蘋果一樣，答案是兩顆橘子。
對於人類來說，舉一反三在某些領域，人類表現得不錯，然而電腦計算機來說，舉一反三仍舊是人工智慧的一個瓶頸，主要的問題，我想本體論的學習與維持，是其中一環。接下來我就分別就「規則」、「本體論」，分別介紹和討論，一起探討如果要讓計算機和人一樣，可以舉一反三，有哪些困難，又有哪些可能的解決方法？
熱門程度: 30%

熱門程度: 30%

Read Full Post »

Posted By Mr. Thursday
我們的大腦複雜無比，裡面的神經網路錯綜複雜，也因此讓我們能夠表現智慧的行為。現今一些人工智慧 (AI: Artificial Intelligence) 的問題，或許可以透過參考人腦的神經網路，來設計一個可以處理視覺、聽覺、文字等資訊的人工智慧系統。除此之外，如果還能夠像人類一樣，能夠自我調整、自我學習，儘量減少人類對系統直接的調整，是最好的了。然而人腦的神經網路，又是如何自我學習、自我調整呢？今天就先和各位分享神經網路調整的兩種方法：海扁學習和STDP，並且另外介紹神經網路同步化 (synchronized)和同多步 (polychrnous)的模型，進一步探討可能的神經網路模式，或許對人工智慧自我學習的方法上，也能提供一些參考！
Hebbian Learning
Donald O. Hebb (1904 - 1985) 是一位神經心理學家 (圖1 Donald O. Hebb)，他對神經網路最重要的一個貢獻，就是 Hebbian Learning ，在這邊我就暫且先翻譯成 海扁學習法。甚麼是海扁學習法呢？海扁學習是在學習甚麼東西呢？首先，讓我們先回憶一下，我們的大腦裡面，是由許許多多的神經元 (neuron) 所組成，神經元和神經元之間，有著連結，叫做神經鍵結 (synapse)。神經元和神經鍵結整個形成一個網路，可以讓神經訊號到處傳遞，就稱為一個神經網路 (neural network)。
我們外在的行為，就是因為神經網路接受了刺激，處理之後產生了反應。然而從刺激到反應之間訊號如何被處理、被轉換，讓我們的行為表現出有智慧的樣子呢？這就牽涉到神經元之間的連結了，因為某些神經元之間連結弱一點，某些神經元之間的連結強一點，我們就可以針對不同的刺激，產生不同的反應，進而表現出智慧的行為。如果我們再縮小範圍來看整個網路裡面的某兩個神經元，接著我們就要問，這兩個神經元之間的連結強度，要怎樣子變強變弱呢？Hebb就針對這個部分提出他的假設，後來也經由許多實驗資料證實，成為海扁學習法了。
熱門程度: 33%

熱門程度: 33%

Read Full Post »

你看到一套防毒軟件，這個軟件聲稱會對你下載的所有檔案都掃描一次，病毒偵測準確度達99%。
這個「99%」令你眼前一亮，心想︰「這個軟件看來相當可靠，準確度99%呢﹗﹗」於是你便把它買下，並成功把它安裝了。
安裝了這個軟件一段日子，有一天，這個軟件突然響起警報，這個時候最正常的問題便是「我下載的檔案真的帶有病毒嗎？」又或者說，這個軟件誤鳴的機率有多高？
你認為誤鳴率就是 1- 99% = 1% 嗎？
熱門程度: 36%

熱門程度: 36%

Read Full Post »

現在你的眼前有三扇門1 2 3 ，其中一扇門背後的是巨額獎金，另外兩扇門的背後則是「很感謝你參加這個遊戲，祝你下次好運」，遊戲主持人示意你選擇其中一扇。在主持人和觀眾的喧鬧聲之中，你戰戰兢兢地選擇了1號 。這個時候遊戲主持人問︰「你真的要選擇1號門嗎？」你說︰「是的。」在這個時候，遊戲主持人沒有立刻揭盅，他把2號門打開了，你很緊張的往裡面看，幸而2號門並沒有你在造夢時也想得到的獎金，正當你鬆一口氣的時候，主持人對你說︰「我現在給你多一次機會，你要堅持選你的1號門，還是轉為選3 號門呢？」
這個便是十分有名的Monty Hall problem，這個名字來自當年美國一個類似遊戲的節目主持Monty Hall。
你會怎麼選？
熱門程度: 56%

熱門程度: 56%

Read Full Post »

在算術平均數(上)文中，我一開始便說算術平均數(Arithmetic mean)是以刪掉資訊來換取簡潔的表達，但文中只簡單提及了在用平均數時我們失去了方差(Variance)的資訊，這次就讓大家看看平均數在不同的情況下，分別刪掉了什麼吧。
還記得Windows XP 和Mac OS X的例子嗎？如果你為你的程式在Windows XP 和Mac OS X 的環境下分別進行了1000次測試，得出的結果是︰在Windows XP中程式運行所需時間平均30秒，而在Mac OS X中則平均10秒。當有人問及你相關的資料時，你可以有以下三種回答方法︰
(1)XP 第1次︰32秒，XP第2次︰29 秒，XP第3次︰31秒…..OS X 第1次︰8秒，OS X第2次︰12 秒………………………(把所有測試的結果通通列出來)
(2)OS X 的1000 次測試中，平均時間10 秒，Windows XP 的1000 次測試中，平均時間30秒
(3)在Windows XP 和Mac OS X 的2000 次測試中，平均時間20 秒。
有看算術平均數(上)的讀者們，應該知道我又想說「(3) 的資訊比(2)少，(2)的資訊比(1)少」和「三個答案沒有誰對誰錯，答哪一個才好是取決於對方想要什麼」但如果我們是知道對方想要什麼資料的話，這三個答案便有好壞之分。
熱門程度: 40%

熱門程度: 40%

Read Full Post »

統計學工具，可以協助我們把多餘的資訊刪減，令人們可以更清楚方便地看到他們需要的資訊。以大家一定懂得的「算術平均數」(Arithmetic Mean)為例，如果你編寫了一個改圖程式，為了測試它的速度。你在不同的環境，不同的時間，重複運行某功能1000次，然後把所需時間記下來。這個時候，如果有人問及你一些有關你的程式的運行速度的資料，你可以把你的測試告訴他。在報告測試結果的時候，你可以選擇說︰
1. 第1次︰38秒，第2次︰36秒，第3次︰37秒，第4次︰38秒….(把所有記下來的時間讀出來)………..
或
2. 平均運行時間是37秒。
這兩個答案沒有誰對誰錯，要回答哪一個就取決於對方想要什麼？想要仔細的資訊？還是想要一個簡潔，但又具代表性的數字？但可以肯定的是，2.的資訊比1. 的要少。因為如果我得到1. 中的資訊，我可以把2.所提及的平均數計出來，但我只知道2.的話，卻不可以把1.的資料計出來。換句話說，為了換取簡潔，我們使用「平均數」這個工具，把一些我們認為是多餘的資訊刪去了。
讀者可能會說，這只是小朋友都懂的算術題，有必要說得這樣複雜嗎？如果這些說話只是在一般朋友間的對話中，可能問題不大，反正大家在很多時候都只是想看個大概，細節上有什麼誤解也無傷大雅。但當這些平均數被廣泛用在廣告、公共資訊(如天氣預告)和資訊紀綠(如成績單)中，我們就得費點工夫去了解，這些平均數是在說些什麼了，或者他們刪除了什麼了。
熱門程度: 39%

熱門程度: 39%

Read Full Post »

Posted By Mr. Thursday
在《探討拓樸和語意之間的關係》這篇文章裡面，稍微探討了語意的問題，以及拓樸對於語意問題可能的解決方法。然而在拓樸方面，只有約略和各位提到，拓樸就是對一個集合作運算，集合裡面的元素，不管怎樣子擴張壓縮變形，之間的關係都會維持著，這種運算就符合拓樸的條件。如果對於集合的基本想法和運算有些不記得，可以先參考另外一篇文章《集合: 從邏輯到1+1=2》。
因此，為了解決用電腦來處理語意資訊的這個問題，筆者打算用拓樸來嚐試解決，拓樸又是使用集合作為運算的基本單位，因此有了前面第一篇拓樸的簡介文章，以及第二篇有關集合的簡介文章。然而拓樸空間本身的定義，則是有一定程度的複雜性，接下來的一系列文章，我將努力把拓樸的觀念，在使用白話文、卻又不失去數學公式所定義的觀念下，向各位介紹「拓樸」(topology)，然後介紹「流形」(manifolds)，最後回到一開始設定的目標：「用流形 (manifolds) 來嚐試解決語意 (semantic) 問題」。
在這條漫長的道路裡面，今天我們先來看其中的一小段。今日的主角是「開集合」，英文是 open set。有了集合的基本概念，再加上「開集合」的概念，我們就可以開始了解「拓樸空間」的基本定義，在這條路上往前一步，同時也可以了解相關的概念：「歐氏空間」、「度量空間」、以及最廣義的「拓樸空間」。
 
熱門程度: 28%

熱門程度: 28%

Read Full Post »

Posted By Mr. Thursday
集合(Set)的概念可以在日常生活中常常見到。小時後我們可能都玩過「大風吹」的遊戲，大風吹，吹甚麼？吹有戴眼鏡的人，吹穿皮鞋的人，吹長頭髮的人。每講到一種特徵，符合這個特徵的人就要趕快起來換位置，但是因為原來講特徵的人也會搶位置，所以速度最慢的人，就變成下一個要講特徵的人了。因此每一個特徵，就形成一個集合。譬如說一個班級，考試成績大於70分的人，形成一群集合，考試成績小於90分的人，又形成另一群集合，我們如果要找成績大於70分又小於90分的人呢？只要把剛才兩個集合取交集(intersection)就可以了。除此之外，集合還有其他基本的運算，像是聯集(union)，補集(complement)，和差集(difference)。經由這些基本運算，可以幫我們處理不少事情，也讓數學家、統計學家、或是資訊科學家，可以在集合上面建立各種理論或應用。接下來就讓我們來看看，集合成為哪些理論的基礎或是延伸？下圖把一些集合的運算做視覺化(visualization)：

熱門程度: 31%

熱門程度: 31%

Read Full Post »

Posted By Mr. Saturday
之前 Mr. Saturday 曾經在 無人車橫越沙漠!–初探 Computer Vision (電腦視覺) 一文中粗淺地介紹過電腦視覺這個有趣的研究領域，裡頭中有提到了美國國防部對於這類研究之所以這麼重視，主要還是因為電腦視覺的技術一但成熟，應用到軍事科技上，將會有相當可怕的成果出現，為什麼說可怕呢？因為美國要是真正打造出智慧型的無人載具，那麼其軍事力量將會更加強大，最近我在經濟學人上又看到了一篇有關於無人載具 (unmanned vehicles) 的相關報導，裡頭就是在講有一位教授 Ronald Arkin 最近在做的事情。
熱門程度: 15%

熱門程度: 15%

Read Full Post »