決策樹學習技術(shù)由于簡單易用,到今天仍是最常用的機器學習技術(shù)之一.ILP具有很強的知識表示能力,可以較容易地表達出復雜數(shù)據(jù)關(guān)系,而且領(lǐng)域知識通常可方便地通過邏輯表達式進行描述,因此,ILP不僅可利用領(lǐng)域知識輔助學習,還可通過學習對領(lǐng)域知識進行精化和增強;然而,成也蕭何、敗也蕭何,由于表示能力太強,直接導致學習過程面臨的假設空間太大、復雜度極高,因此,問題規(guī)模稍大就難以有效進行學習,九十年代中期后這方面的研究相對陷入低潮.二十世紀九十年代中期之前,“從樣例中學習”的另一主流技術(shù)是基于神經(jīng)網(wǎng)絡的連接主義學習.連接主義學習在二十世紀五十年代取得了大發(fā)展,但因為早期的很多人工智能研究者對符號表示有特別偏愛,例如圖靈獎得主H.Simon曾斷言人工智能是研究“對智能行為的符號化建模”,所以當時連接主義的研究未被納入主流人工智能研究范疇,尤其是連接主義自身也遇到了很大的障礙,正如圖靈獎得主M. Minsky和S.Papert在1969年指出,(當時的)神經(jīng)網(wǎng)絡只能處理線性分類,甚至對“異或”這么簡單的問題都處理不了.