บทเรียนจากความล้มเหลวของโปรแกรมสินเชื่อ AI ของธนาคารใหญ่ – เมื่อเทคโนโลยีพ่ายแพ้ต่อความเข้าใจธรรมชาติมนุษย์
บริบท: เมื่อธนาคารตัดสินใจเลือก Algorithm มากกว่า Banker
กลับไปที่ปี 2021 ซึ่งเป็นช่วงที่เทคโนโลยี AI กำลังมาแรง และธนาคารโดยทั่วไปก็เพิ่งตั้งใจปรับปรุงกระบวนการให้เป็นดิจิทัล บริษัทหนึ่งที่เป็นธนาคารชั้นนำในภูมิภาค (สมมุติว่าเรียกเป็น "ธนาคาร X") ได้ตัดสินใจจ่ายเงินจำนวนมากเพื่อพัฒนาระบบ AI สำหรับการอนุมัติสินเชื่อ
ตัวเลขที่พูดกันในเวลานั้นช่วย ดูดีมาก: การใช้ Machine Learning สามารถประมวลผลใบสมัครเงินกู้ได้เร็วขึ้น 10 เท่า ลดค่าใช้สอยด้านบุคลากร 40% และประโยคที่หลายคนยังจำได้คือ "ลดความอคติของมนุษย์ในการตัดสินใจ" แล้ว เหตุที่จะไม่ทำล่ะ?
ระบบได้เชื่อมต่อกับแหล่งข้อมูลทั้งหมด: ประวัติการลงชื่อสัญญา ทะเบียนที่ดิน ข้อมูลค่าน้ำไฟ ระดับครัวเรือน แม้กระทั่งข้อมูลจากเครือข่ายสังคมออนไลน์ ทีมวิศวกรอยากให้ AI มีข้อมูลครบครัน เพื่อให้การทำนายถูกต้องมากที่สุด
ในไตรมาส 6 เดือนแรก? ทำงานได้สนิท
ปัญหา: ตัวเลขดูดี แต่ความเสี่ยงซ่อนอยู่ลึก
สัญญาณเตือนเริ่มปรากฏเมื่อเข้าสู่ปีที่สอง โอกาสที่ลูกค้าไม่ชำระหนี้ (default rate) เริ่มสูงขึ้นอย่างต่อเนื่อง ไม่ใช่เหรือชั่ว ชั่น คำถามแรกของ Board คือ "เกิดอะไรขึ้น?" เพราะในสื่อสารการเปิดตัว พวกเขาได้ยินว่าระบบนี้ "ตัดสินใจได้ดีกว่าเจ้าหน้าที่เงินกู้เก่า"
เมื่อทีมวิเคราะห์ข้อมูลจริงๆ เหตุผลต่างๆ ก็ออกมาเต็มไปหมด:
- AI ไม่เข้าใจบริบท – มันมองเห็นว่าลูกค้าคนนึงมีรายได้ 40,000 บาทต่อเดือน แต่ไม่รู้ว่าคนนั้นพึ่งจากการช่วงหารเรือน หรือว่าลูกค้าที่อีกคนหนึ่งเสี่ยงต่อการตัดงาน เพราะอุตสาหกรรมของเขาในขณะนั้นกำลังเดือด
- ข้อมูลทำนายไม่ได้ที่แท้จริง – ระบบใช้ข้อมูลที่ผ่านมา (historical data) เพื่อทำนายอนาคต แต่ไม่มีใครคิดมาว่า การตัดสินใจให้สินเชื่อให้กับกลุ่มประชากร "เสี่ยง" ในตอนแรก ท่านว่ามันจะให้เลขเสี่ยงสูง? ระบบเลยปฏิเสธคนเหล่านั้นออก แล้วเมื่อคำนวณผลลัพธ์อีกครั้ง ประวัติการโดดเด่นของกลุ่มนั้นก็ไม่เห็นในข้อมูล
- ปัจจัยที่ AI หลงรักแต่ไม่เกี่ยวข้อง – เช่น ระบบพบว่าคนที่อยู่หมู่บ้านจัดสรร มี default rate สูง จึงเลยปฏิเสธสินเชื่อให้กับคนในหมู่บ้านนั้น โดยไม่รู้ว่าปัญหาแท้จริงคือ คนกลุ่มนั้นเก็บกำหนดการมากเกินไป (over-leveraged) ไม่ใช่ว่าอยู่ที่ไหน
ยิ่งแปลกคือ ธนาคาร X เริ่มสัญญาณเตือนจากด้านอื่น เพราะเมื่อปฏิเสธสินเชื่อจำนวนมาก คำร้องสำนักงานคุ้มครองผู้บริโภค ก็พุ่งสูงขึ้น ลูกค้าที่ปฏิเสธไปรู้สึกว่าตัดสินใจแบบลึกลับ ไม่มีโอกาสติดต่อ appeal และที่ร้ายแรงคือ... บางครั้งเหตุผลที่ AI ปฏิเสธนั้นดูไม่สมเหตุสมผลเลย
วิธีแก้: กลับมาหาความสมดุลที่แท้จริง
ถึงขั้นหนึ่ง ธนาคาร X ต้องเมิ่นออก ไม่ใช่เลิกใช้ระบบ แต่ปรับแนวทางการดำเนินการ
ขั้นแรก: ยอมรับข้อจำกัดของ AI
พวกเขาตัดสินใจว่า AI ควรเป็น "ตัวช่วย" ไม่ใช่ "ผู้ตัดสินใจสุดท้าย" ระบบนี้จึงถูกปรับมาเพื่อให้ผลการวิเคราะห์เบื้องต้น แล้วเจ้าหน้าที่สินเชื่อที่มีประสบการณ์จึงเข้ามาประเมินเพิ่มเติม นี่อาจดูเหมือนการถอยหลัง แต่จริงๆ แล้วมันคือการก้าวหน้าที่สำคัญ
ขั้นที่สอง: เปิดโปงกล่องดำ
ทีมข้อมูลศาสตร์ของพวกเขาเริ่มสร้างระบบ "explainability" นั่นคือ เมื่อ AI ปฏิเสธสินเชื่อ ระบบจะต้องอธิบายให้ชัดเจนว่า "เพราะว่า" เป็นสาเหตุหลัก 3 ข้อ ซึ่งเจ้าหน้าที่สามารถนำไปอภิปรายกับลูกค้าได้ และลูกค้าเองก็สามารถวางแผนปรับปรุงต่อไปได้
ขั้นที่สาม: ทำความสะอาดข้อมูล และลบความลำเอียง
พวกเขาค้นหา "biased patterns" ในข้อมูลสอบการฝึก ตัวอย่างเช่น ถ้าข้อมูลจากช่วง 10 ปีที่แล้วแสดงว่าคนเก่าแก่มักสมัครสินเชื่อน้อยลง มันอาจเป็นเพราะสถาบันการเงินนั้นไม่ให้โอกาส ไม่ใช่เพราะคนเก่าแก่ไม่น่าให้เงิน ปรับข้อมูล ลบตัวแปรที่ชี้ชัดอายุ เพศ เชื้อชาติ และเขตที่อยู่อาศัย (ที่มักสัมพันธ์กับสถานะทางเศรษฐกิจ)
ขั้นที่สี่: ฝึกอบรมบุคลากร
เจ้าหน้าที่สินเชื่อต้องเข้าใจ AI คืออะไร มันทำอะไรได้ และที่สำคัญคือ มันทำไม่ได้อะไร ธนาคารจัดเซ็ดชั่นสอนให้พวกเขารู้วิธีอ่าน output ของระบบ บอกความหมายของตัวเลขต่างๆ และบ่อบที่สุดคือ "ไม่ต้องไปไหนมากจากสัญชาตญาณของคุณ"
ผลลัพธ์: หลากหลายชั้นการประเมิน เลือกที่จะเสี่ยงอย่างรู้แจ้ง
หลังจากปรับเปลี่ยนแนวทาง ผลลัพธ์ของธนาคาร X เปลี่ยนไปเห็นได้ชัด:
- Default rate ลดลง – ไม่ได้ลดลงจากเดิม (ก่อนใช้ AI) แต่ลดลงจากช่วงที่ใช้ AI เต็มที่ ทำให้กลับมาสมดุลกับปัจจุบัน
- ความพึงพอใจลูกค้าสูงขึ้น – การร้องเรียนหลุด ลูกค้าเข้าใจว่าทำไมถูกปฏิเสธ บางคนแม้อาจตกลงท้าทายข้อมูล หรือยำมาใจเพิ่มจุดที่ขาดหาย
- เจ้าหน้าที่มีความสุขมากขึ้น – พวกเขาไม่รู้สึกเป็นเพียง "ปุ่มกดตาม AI" อีกต่อไป เขามีสิทธิกำหนดสินเชื่อของตนเอง (แต่ติดอาวุธด้วยข้อมูลจาก AI) ซึ่งทำให้การทำงานรู้สึกมีความหมายมากขึ้น
- ความปลอดภัยกฎหมายดีขึ้น – เมื่อตัดสินใจแสดงให้เห็นว่า "มีการตรวจสอบของมนุษย์" ธนาคารจึงป้องกันตัวจากข้อกล่าวหาเกี่ยวกับ algorithmic discrimination ได้ดีขึ้น
ข้อมูลที่น่าสนใจคือ ผลกำไรของธนาคารในการให้สินเชื่อไม่ได้ลดลง ตรงกันข้าม มันเพิ่มขึ้น เพราะพวกเขาสามารถให้สินเชื่อแก่กลุ่มคนที่ AI ปฏิเสธแต่ที่จริงแล้วน่าจะสมควรได้ยืมเงิน
บทเรียนที่ลึกกว่า: เทคโนโลยีเป็นลัทธิของชาว Tech บ่าย
กรณีของธนาคาร X บอกอะไรให้เรารู้บ้าง?
ประเด็นแรกคือ ความเข้าใจผิดเรื่อง "Objectivity" ของเทคโนโลยี มีความเชื่อกระจายตัวอยู่ว่า "ถ้ามันเป็นคณิตศาสตร์ มันก็เป็นความจริง" แต่จริงๆ แล้ว ทุกๆ โมเดลคณิตศาสตร์ต้องมีคนคัดเลือกตัวแปรก่อน คนที่เลือกข้อมูล และความลำเอียงของคนที่สร้างระบบนั้นจึงซ่อนตัวอยู่ในการเลือกเหล่านี้
ประเด็นที่สองคือ ความสำคัญของ Human in the Loop บทความเกี่ยวกับการใช้ AI บ่อยครั้งเน้นว่า "จะทำให้เร็ว" "จะลดต้นทุน" แต่บ่อยครั้งผลกำไรนั้นมาจากการดึง "สัญชาตญาณมนุษย์" มาร่วมกับ "การวิเคราะห์ข้อมูล" ไม่ใช่แทนที่
ประเด็นที่สามคือ ความจำเป็นของการติดตามอย่างต่อเนื่อง ระบบ AI จะเปลี่ยนพฤติกรรมตามข้อมูลใหม่ ดังนั้นไม่ใช่ว่า "ติดตั้ง แล้วลืม" บุคลากรต้องมีความเข้าใจพอที่จะปรับแนวทางได้เมื่อเห็นสัญญาณเตือน
เมื่อมองย้อนกลับ ความล้มเหลวของธนาคาร X ไม่ใช่ว่า AI ไม่ดี แต่เป็นเพราะว่าพวกเขาลืมว่าธรรมชาติของการให้เงินกู้คือการเข้าใจคน ไม่ใช่แค่การอ่านตัวเลข เมื่อยอมรับข้อจำกัดนี้และปรับวิธีการทำงาน พวกเขาก็กลับมาสามารถสร้างมูลค่าได้
นี่เป็นเรื่องที่น่าช่วยใจเล็กน้อย เพราะหมายความว่า เมื่อเรากำลังลงทุนในเทคโนโลยี สำคัญที่สุดอาจไม่ใช่เทคโนโลยีนั้นเอง แต่เป็นการรู้จักตัวเอง รู้จักปัญหาจริงๆ ของเรา และแล้วปรับเทคโนโลยีเพื่อให้พอดี
กรณีอื่นๆ ที่เกี่ยวข้องกับการทำความเข้าใจที่ผ่านมาล้วนแล้วแต่สอนบทเรียนเดียวกัน เช่น บทเรียนจากการฝากเงินกับ Silicon Valley Bank ด้วยเช่นกัน ซึ่งแสดงว่า การมองข้าม "ความจริงที่ซ่อนอยู่" นั้นมีราคาแพงมาก
สำหรับผู้บริหารและผู้ตัดสินใจที่กำลังพิจารณาจะลงทุนในเทคโนโลยี ข้อคิดสำคัญคือ: ถามตัวเองว่า "เราใช้เทคโนโลยีนี้เพื่อทำอะไร ให้ดีขึ้นอย่างไร" ก่อนที่จะถามว่า "เราควรเลือกเทคโนโลยีไหน" บ่อยครั้งไม่เกี่ยวกับการหาของที่ดีที่สุด แต่หาของที่พอดีกับวัตถุประสงค์จริงของคุณ
