近日，美國計算機協會（Association for Computing Machinery，簡稱 ACM）將 2021 年度圖靈獎授予田納西大學電氣工程和計算機科學系教授杰克·唐加拉（Jack J. Dongarra），以表彰其在高性能計算發展上的重大貢獻，該獎項相當于“計算領域的諾貝爾獎”。

在唐加拉過往的生命中，有很大一部分時間是在計算機科學和數學的世界之間穿梭。谷歌 AI 業務負責人杰夫·迪恩（Jeff Dean）這樣評價道， “唐加拉的工作從根本上改變并推動了科學計算。”值得一提的是，在獲得表彰的同時，唐加拉還獲得了 100 萬美元的獎金，谷歌為 ACM 提供了該獎項的財務支持。

對于此次獲獎，唐加拉表示，"我對此前的圖靈獎獲得者有著極大的尊重，我使用過他們的書以及定理，我只希望自己能成為未來計算機科學家的榜樣。"

其實，很多科學工作者，甚至包括此前的圖靈獎獲得者，都曾在某個時候或者是每天都在使用唐加拉所開發的程序和庫，如廣泛用于系統性能基準測試的線性代數程序 LINPAC、執行科學計算核心的向量和矩陣操作的主力運算庫 BLAS 以及用于 GPU 的線性代數庫 MAGMA。

圖 | 杰克·唐加拉（Jack J. Dongarra）（來源：ACM）

據了解，唐加拉出生于 1950 年，如今已過古稀之年。在他看來，其一生最重要的貢獻主要有三個方面。

第一是開發了眾多可移植的、適用于高性能機器的數值軟件；第二是在計算機的并行處理機制上做了相關工作，如消息傳遞接口（Message passing interface，簡稱MPI）；第三是開發測量計算機性能的評估技術，如衡量超級計算機能力的 TOP500 測試。

唐加拉稱，“這些工作都集中在先進的計算機架構上以及如何非常有效地利用它們。”而唯一主線是，如何讓科學家在計算機允許的范圍內做他們想做的實驗。

為此，唐加拉發明了一些工具，以幫助程序員在各種計算方面擁有更強的掌握能力，其最近專注的是一個叫做 SLATE 的線性代數軟件包。

據悉，SLATE 可以在“計算金字塔”（computational pyramid）上運行，從筆記本電腦到臺式機、集群以及超級計算機。唐加拉介紹，“用戶可以忘記底層的硬件，只需提出線性代數問題，SLATE 會想辦法把它分散到數十萬個處理器或 GPU 上。”

現在，超級計算在世界范圍內盛行，越來越多的人通過云計算來使用超級計算機，這很大程度上歸功于唐加拉長年的編程努力。

唐加拉表示，“就計算方式而言，我們正處于一個拐點，傳統方式是在這些占據兩個網球場大小的機器上進行科學計算，而現在更多是基于云來調用機器"。

他認為，從某種意義上說，超級計算行業在建造超級計算機的傳統方式上幾乎已經走到了盡頭。摩爾定律失效后，組裝一臺獨立的高性能計算機并不是一個可以繼續擴展的過程，承擔下一個巨大計算時代的應當是云規模系統。

亞馬遜、Meta、谷歌等科技巨頭擁有巨大的設備和系統資源，而科學家們由于資金的原因，很難將必要的資源落實到位，而云中的商業資源可供科學家們利用，以滿足其特定需求。

值得一提的是，唐加拉還關注著中國的超級計算發展，并多次到訪中國參與技術交流。他曾在北京考察中國首臺千兆次超級計算機“天河一號”，還在 2013 年出席了在長沙舉行的國際 HPC 會議，與眾多的中國超算科學家進行技術交流。

除超級計算外，線性代數也憑著唐加拉對向量和矩陣以及張量的處理來到了計算的核心。唐加拉表示，“我是一個數學家，對我來說，一切都是線性代數，但世界也在看到這一點。事實上，機器學習和人工智能中的大多數問題，都可以追溯到線性代數中的‘永恒計算組件’。”

此外，唐加拉還注意到科學家和軟件編寫者的編程語言需求。當被問及更推薦哪種軟件編程范式，他表示，Julia、MatLab 都較為不錯。

他談到，今天需要的軟件編程范式是 “以簡單的方法來表達所有計算”，也就是線性代數的計算，如矩陣乘法。

這也正是唐加拉多年來一直在做的事情，即輕松地表達事物，并獲得底層硬件的性能。具體而言，就是通過更多的工具來抽象化細節，讓科學家更有生產力。

目前，唐加拉的興趣所在是 AI 技術，他對 AI 為工程和科學帶來的好處有著堅定的信念，并正在努力研究各類基于線性代數的機器學習算法。

他表示，“機器學習是一個巨大的工具，我們才剛剛開始了解如何使用機器學習等 AI 技術來幫助解決科學問題。它也許不會直接解決我們的問題，但它將成為幫助我們解決問題的好伙伴。”

-End-