如何評估學習成效?ROI方法論的13招

本文架構來自2020數位學習人培班蘇文華老師(Wally老師)課程整理寫成。

蘇文華老師在這個講座指出「評估」是一種工具與流程,線上、線下課程都可以用這個模式來評估。討論學習評估一定要認識兩個人:

(1)Donald Kirkpatrick 柯氏四級評估

Level 1: Reaction 反應 :覺得自己沒有浪費時間。但可能只是老師很會講笑話。
Level 2: Learning 學習 :有學到東西。
Level 3: Behavior 行為 :學到之後,留在身上,能夠行動。
Level 4: Results 結果:公司花錢培訓你,你就達到工作績效

(2)Jack Phillips 五級評估

Level 0:衡量輸入時數、人次
Level 1: Reaction and Planned Action:反應和預定行動計畫
Level 2: Learning :學習
Level 3: Application and Implementation:在工作上有應用和實踐
Level 4: Impact(Tangibles and Intangibles):業務影響(有形和無形,看用數字衡量與否)
Level 5:ROI投資報酬率

常常看到公司人資報告說:「本年度辦了OO小時的訓練課程,總學習人數是OO人次」,這類計算學習人次、學習時數者都屬於Level 0的評估層次,並非最有效的評估。以下介紹 Jack Phillips開發的ROI評估方法 13 招。

1. 學習成效評估第一招:依據開課單位需要選擇評估的層級

Jack Phillips提出了五級評估層次,但實際上並不是所有的開課單位都要走完所有的評估程序。畢竟現實上不一定有足夠的人力跟資源來評估每個項目,例如到Level 3以後,評估成本會飆太高,因為沒人有空去追蹤每個學員課後的成效。所以要選哪一層來評估就要先釐清進行此培訓的目的與預期的成效為何?

舉例來說,重視投資報酬率的A公司會做Level 5 ROI評估,著重員工有沒有實際應用所學的B公司就會做Level 3的評估。對於B公司來說,再做Level 5 ROI的評估就是多餘的了。

因為時間跟資源都有限(現實),有的開課單位不一定有錢有閒能走完ADDIE的所有流程,還有資源能評估者,就要更小心選擇評估的層級是否有助於下次的培訓。

另外,Wally老師也提到,很多課程設計者花很多時間在ADDIE的「A」階段分析受眾需求,卻忽略了課程製作完成後要怎麼評估。沒有以終為始,去想這門課程預計要達到的成效是什麼,在專案後段就會失去一些優化的機會。

2. 學習成效評估第二招:針對每一個層級設定目標

在進行評估時,首要分析這個訓練的目的是什麼?訓練的項目是否呼應公司的經營方向?為了讓訓練有效,在確認評估項目時,也要依據公司的期待來選擇要評估的層級,此時就要知道每一個層級的目標是什麼。

級別著重點
Level 1:Reaction訂定能衡量學員預期反應的標準 例:能理解績效管理系統
Level 2:Learning訂定能衡量學員知識、資訊、技能有進步的標準 例:能管理遠距離團隊
Level 3:Application訂定能衡量學員成功應用所學的標準 例:在95%的客訴情境,能用7個步驟進行調查
Level 4:Impact訂定學員課後能運用所學為公司帶來改變的評估標準 例:一年內市民投訴減少20%。
Level 5:
ROI
訂定訓練項目的最低投資報酬率 例:實施彈性工作系統後,一年達到20%的投資報酬率

3. 學習成效評估第三招:利害關係人

利害關係人包括出資者、學員、講師、人資、專案負責人等,這些都是培訓過程中重要的成員,評估流程也少不了利害關係人們的意見以及他們對於培訓的期待是什麼。

4. 學習成效評估第四招:提早以及經常跟事業單位聯繫

很多學員在培訓後的學習成效必須由主管來評估,訓練單位就要提早知會單位主管需要定期追蹤評估的工作,以及老闆屬意要追蹤哪一層級的成效。

Level 3的評估(實際應用所學在工作中),應該交由受訓員工主管來做,因為主管是最熟悉員工的人。如果主管不願意,就跟主管說,叫他不要再派員工來受訓。因為他連評估學習結果都不想,那為何要送員工去受訓。

5. 學習成效評估第五招:正確收集回饋

Level 1的評估要避開「迷惑性」的迴圈。有些培訓課程會在課後發問卷,學員如果很享受課程,就會給講師很高的評分。而講師就會受到正向回饋,認為讓學員享受才是課程的重點,也就陷入了「迷惑性」的迴圈。因此,設計問卷時一定要問學員:「今天學的內容未來將如何運用?」

Level 2 的評估則可用客觀性測驗(紙筆測驗)、績效測驗(小組報告)或非正式評估來進行。為什麼需要非正式評估?因為講師一邊上課,不可能還紀錄誰在發言、誰的課堂操作做得如何?於是就跟課的人資來評估,或是跟課的人可以在課後問講師對全班整體的感覺如何。

6. 學習成效評估第六招:課後搜集Level 3 – Level 4的數據

在評估的第六招要收集Level 3 – Level 4的數據,摘要條列方法如下:

收集數據方法Level 3Level 4
調查問卷
觀察工作表現 
訪問學員 
行動計畫
紀錄工作績效 

調查問卷是成本最低的方法,從Level 1到Level 4都可用。而觀察工作表現的時間成本較高,願意做的主管少。還有一個方法是做行動計畫,也就是在紙上寫下接下來的行動步驟是什麼,註明這些步驟如何改善當前績效,這的項目是Level 1 至 Level 4都可以做,條列如下:

Level 1:課前預計要做的事
Level 2:用上課學到的東西、表單可以怎麼運用在工作上
Level 3:每個月追蹤執行計劃結果
Level 4:多了多少訂單?業績增加多少?

行動計畫的最佳調查時機:

1.上課前寫:跟老闆討論過寫才有意義,雙方明確知道這個培訓要能帶來哪些改變?有的懶人寫的就是他本來在做的事。

2.每一節下課後:寫下修正版的行動計畫。人資不要馬上回收,讓員工帶回去給主管看,再看有無要修正。

3.整天課程結束後:是最差的收集時機,大家只想趕快下課。

收集數據的頻率應該如何安排?每一季都是3個月(1個Q),所以每季蒐集資料較合理。以月為單位去蒐集會讓負責的人不開心,因為這樣會增加他的業務。倘若看資料的主管不相信數據,前面再怎麼努力蒐集數據都沒有用,這時就要另擇良樹棲了。

7. 學習成效評估第七招:分離學習效果

培訓或許就像補藥,要怎麼改善手腳冰冷、身體虛的狀況?醫生可能會讓患者抓藥回去煎來吃,再請他早點睡,每天飯後百步走。一個月後真的身強體壯了,那到底是煎藥的效果還是早睡有運動的效果呢?

培訓也是一樣,員工受訓後績效增加了,如果沒有細分影響這個結果的幾種原因,很難說100%是培訓的效果,因為有可能是員工自主努力、淡旺季因素、遇到很會帶團隊的主管等等。所以這時候要需要分離學習效果。

那要怎麼分離呢?可以用實驗組、對照組的方式分析,也可以調出前幾季、過去幾年的數據來分析,這就需要統計專家來計算培訓的成效。

8. 學習成效評估第八招:數據轉換成貨幣價值

在Jack Phillips的評估模型中,有投報率(ROI)的評估項目,這是用數據的角度分析投入培訓成本後實質獲得多少成效。

該怎麼轉換呢?在培訓課程結束的三個月到半年間(給學員時間上手,就算行為改變,也還需要時間等行為的結果出現),決定衡量的指標是什麼,接著確認指標的價值為何?再計算期間績效變化與年度績效變化,最後計算年度的貨幣收益。

9. 學習成效評估第九招:以成本角度來評估

培訓的成本不是只有講師費、差旅費這些看得到的成本而已。在公司發現培訓需求,人資尋找開課單位,講師開發課程內容,學員受訓時的薪水與付出的時間,還有課後的評估要付出的時間跟人力,都是必須考量的成本。

這些成本若沒有詳細記錄,ROI的計算就會不夠準確。

10. 學習成效評估第十招:投資報酬率ROI計算公式

ROI公式:

ROI=(課程收益 -成本)/成本 X100%

簡單舉例來說,培訓課程結束後的一年,員工為公司帶來的收益是100萬,培訓的成本是60萬。ROI=(100-60)/60 X 100%=66%

11. 學習成效評估第十一招:留意無形效益(雖然不一定算得出來)

有些效益是很難用數據衡量的,例如對公司的認同感,團隊氣氛提升這些抽象的效益等等。如果要刻意計算抽象的事情而花很多時間的話,就要斟酌這個評估是否對組織有幫助。

12. 學習成效評估第十二招:常保溝通

一個培訓活動牽涉到非常多的對象,例如出資的公司老闆,要去培訓的員工,負責管理的人資團隊,員工的直屬主管等等。為了達成培訓目標,每一個對象要溝通的方向都不一樣。例如需要出資者的批准,需要員工積極學習,需要直屬主管支持等等。

溝通形式不只有面對面溝通而已,報告、信件、會議等等都是可以溝通的情境,就依據公司文化來判斷要用哪一種形式溝通什麼內容。

13. 學習成效評估第十三招:回顧評估目的

評估學習成效的目的在於確認這個培訓是否是值得投資的項目?這個培訓帶來的量化與質化效益有哪些?能說清楚培訓的成果,也才能為員工爭取下一次的進修機會,持續為公司帶來穩定的成長動能。

封面圖片來源:Jack Phillips授課教材

如何製作好評線上課程?了解評估模式讓你的付出得到回報

不論線上課講師面對哪一種類型的受眾,他們的有一個共同的難題要克服,就是學生能不能黏著在自己設計的課程裡面,能高度參與課程並在課後有所進步。這就有賴於講師事先為學生設想這門課可以如何為他們帶來成效。Kirkpatrick 學習評估模型跟 ROI 可以在這裡幫上大忙。

在「TibaMe 數位教學設計師與數位課程運營師培訓班」當中,第一天的第一堂課,張淑萍老師就介紹了兩個評估模式,目的是「以終為始」。就好像職涯規劃的時候會問自己十年後想成為什麼樣的人,製作課程前也要問自己這堂課最終會為學員帶來哪些效益。如果沒有在設計課程之前進行評估,就無法設計出讓學生按讚加分享的線上課程。

Kirkpatrick的四層評估模式(Kirkpatrick  Model)

Donald Kirkpatrick(1924-2014)曾經是美國人才訓練發展協會(Association for Talent Development)的會長,1950 年中期在博士論文中發表柯氏四層評估模式。都已經是七十年前的理論了,現在大家還在討論,怎麼可以不學起來!

(1)評估模式第一層

評估模式第一層是了解學員的反應,例如在課後給學員填問卷,問他們上課還開心嗎?覺得老師講得好嗎?目前大部分的課程都有第一層評估,因為成本最低(一張紙/一個畫面),速度最快(當天發放),省時省力(馬上統計算出結果)。

(2)評估模式第二層

評估模式第二層是給學員做測驗,透過測驗結果了解學員有沒有學到內容。相信接受台灣教育的諸位經歷過無數次的第二層評估模式(小考、期中考、模擬考)。有些線上課程也會在影片中置入測驗,確認學員學到知識點之後,才會繼續播放下一單元。

(3)評估模式第三層

評估模式第三層就比前兩層還要深入,因為必須以訪談或是觀察的方式,了解學員在課程之後有沒有運用所學在工作之中。學習不是吃藥,常常不能立即見效,可能要一個月到一季的時間才能著手進行調查。此時評估的時間與精神成本就會轉移到人資或是學員的主管身上。

(4)評估模式第四層

評估模式第四層是學習最終要達成的目標,也就是評估學員有沒有運用學到的東西在工作中,有效改善工作績效,進而達到企業的目標。而這第四層評估也對出錢的人來說至關重要,透過這層的評估才知道這個訓練有沒有達到出錢者的期望,讓他們知道這筆錢花得值得。

層級評估內容
Level 1 反應給學員填問卷
Level 2 學習給學員做測驗,了解學員有沒有學到內容
Level 3 行動訪問學員在工作中應用了哪些新學到的知識
Level 4 結果評估學員有無應用所學,達到企業的目標

這個四層評估模式對課程製作者的啟示是什麼呢?我們當然不可能把每一層都跑過之後再回來修正課程設計。而是在課程設計一開始之前就要確認 Level 4 的目標是什麼?例如希望學員上過這堂課之後,可以達到什麼成就?進一步來說,需要了解學員想要達到的成就,根據他們的需求來設計課程。

在確認 Level 4 的目標之後,再回推到 Level 3,如果學員要達成這個成就,他必須如何在工作當中應用新知?接著往回推到 Level 2,為了讓學員可以在工作中應用這個知識,他必須在課堂中學到什麼?最後回推到 Level 1,為了讓學員學到這個知識,該如何在運課過程讓學生保持專注並提升學習體驗?

層級評估內容
Level 4 結果學員所屬企業有無達到營運目標?
Level 3 行動學員的工作有何進展? 學員如何運用所學在工作中?
Level 2 學習學員學了什麼?
Level 1 反應學員喜歡這堂課嗎?他們有把課上完嗎?

Jack Phillips的投資報酬評量法(ROI Methodology)

Jack Phillips(1945-)是全球知名的企業專案管理衡量與評估權威,目前的中文譯著有專案管理計分卡:評估專案管理解決方案的最佳策略工具。他以 Kirkpatrick 的評估模式為基礎,添加了 Level 5 投資報酬率(Return on Investment)。

Jack Phillips 加上投資報酬率這個項目,目的不只是要檢驗企業投入的成本有沒有得到回報,而且還要去計算實際的投報率,評估這個訓練花費的成本跟成效之間的距離有多少。

來源:
https://roiinstitutecanada.com/roi-methodology/evaluation-planning-the-v-model/

在做 ROI 評估時,會紀錄訓練成本,包含學費、公司付出的時間與空間成本等等。訓練之後,也會繼續追蹤學員課後的工作表現如何,工作成效對公司的發展有什麼正增強?舉例來說,一間保養品公司送第一線服務人員去上課,所花費的成本是 5 萬元。人員課後回到工作現場,總共為公司淨賺了 10 萬元。

ROI=(淨收益 -成本)/成本 X100%

這裡的 ROI 就是(10-5)/5X100%=1 表示這個訓練有跟沒有都沒差。(悲)

如果為公司淨賺了 12 萬元,ROI=(12-5)/5X100%=140%

表示這個訓練的投資報酬率是 140%。

計算投報率看起來很現實,但卻是確保學習方向不走偏的科學化工具。

小結

在面授課程的時代,往往是老師決定要教什麼,很少問學生需要什麼,學生只能被動接受課堂的學習內容。隨著科技越來越進步,線上課程的出現為傳統教學帶來了改變。

這個時候設計線上課程,有兩個比較常見的可能。一個是因爲疫情,實體課必須要改線上,一個是想加入販售知識型的商品的市場。這兩個課程的受眾特質很不同,如果是學校學生,上課依然是義務,老師評分還會影響畢業,所以一定會來上課。而第二種受眾是老師的客戶,一定是認為課程對自己有幫助才會掏錢購買。

但是,不論線上課講師面對哪一種類型的受眾,他們有一個共同的難題要克服,就是學生能不能黏著在自己設計的課程裡面,能高度參與課程並在課後有所進步。這就有賴於講師事先為學生設想這門課可以如何為他們帶來成效,以終為始,才能使課程設計的方向正確並達到預期的學習目的。

封面圖片來源:pixabay