วงการที่ปรึกษาระดับโลกต้องสั่นคลอน เมื่อ Deloitte Australia บริษัทที่ปรึกษายักษ์ใหญ่ต้องยอมคืนเงินบางส่วนให้รัฐบาลออสเตรเลีย หลังประสบปัญหาครั้งใหญ่จาก ‘รายงานที่ใช้ปัญญาประดิษฐ์ (AI) เขียน’ ซึ่งเต็มไปด้วยข้อผิดพลาดข้อมูลและ ‘อ้างอิงแหล่งที่มาปลอม’ จนกลายเป็นกรณีศึกษาเรื่องความเสี่ยงในการใช้ AI ในงานสำคัญระดับชาติ
จุดเริ่มต้นของเรื่องวุ่น
เหตุการณ์นี้เกิดจากรายงานชื่อ ‘Targeted Compliance Framework Assurance Review’ ซึ่ง Deloitte ทำให้กับกระทรวงการจ้างงานและความสัมพันธ์ในที่ทำงานของออสเตรเลีย (Department of Employment and Workplace Relations – DEWR) ด้วย ‘งบประมาณสูงถึง 440,000 ดอลลาร์ออสเตรเลีย’
รายงานนี้มีวัตถุประสงค์เพื่อตรวจสอบระบบการบริหารจัดการสวัสดิการและบทลงโทษโดยอัตโนมัติของภาครัฐ ซึ่งถือเป็นหัวใจเชิงเทคนิคของระบบสังคมสงเคราะห์ในปัจจุบัน
หลังจากรายงานฉบับจริงถูกเผยแพร่ในเดือนกรกฎาคม 2025 กลับพบว่าเนื้อหาบางส่วนมีความผิดปกติอย่างชัดเจน โดยเฉพาะการอ้างอิงบทความทางวิชาการ งานวิจัย และคำวินิจฉัยของศาล ‘ที่ไม่มีอยู่จริง’ รวมถึงการกล่าวถึงนักวิชาการที่ไม่เคยเขียนเอกสารตามที่ถูกอ้าง ซึ่งกลายเป็นจุดเริ่มต้นของการตรวจสอบข้อเท็จจริง
ผู้ที่ค้นพบความผิดปกติในรายงานฉบับนี้คือ ดร.คริสโตเฟอร์ รัดจ์ จากมหาวิทยาลัยซิดนีย์ ซึ่งตรวจพบว่ามีข้อมูลจำนวนมากที่ถูกสร้างขึ้นด้วย AI โดยไม่มีหลักฐานอ้างอิงจริง โดยเฉพาะอย่างยิ่ง การอ้างถึงรายงานของ ‘ศาสตราจารย์ Lisa Burton Crawford’ ที่ ‘ไม่ปรากฏอยู่ในฐานข้อมูลวารสารใด ๆ เลย’ แต่กลับถูกนำมาอ้างซ้ำหลายครั้งอย่างมั่นใจ
เหตุการณ์นี้จึงกลายเป็นตัวอย่างที่ถูกพูดถึงอย่างกว้างขวางของปรากฏการณ์ AI hallucination ซึ่งการที่ AI สร้างข้อมูลเท็จขึ้นมาโดยไม่ได้ตั้งใจ และสะท้อนถึงความเสี่ยงของการพึ่งพา AI โดยไม่ตรวจสอบแหล่งที่มาอย่างรอบคอบ
ที่สำคัญ รายงานฉบับแรกไม่มีการระบุอย่างโปร่งใสตั้งแต่ต้นว่ามีการใช้ AI (Azure OpenAI GPT-4o) ในกระบวนการเขียน แต่อาศัยการเปิดเผยย้อนหลังภายหลังเกิดดราม่าในฉบับแก้ไข โดย Deloitte ให้เหตุผลว่าการใช้ AI นั้นมีไว้เพื่อช่วยวิเคราะห์เชิงเทคนิคเท่านั้น แต่ไม่เคยตั้งใจให้เกิดการอ้างอิงปลอมแต่อย่างไร
Deloitte ยอมรับผิด คืนเงินและแก้ไขรายการอ้างอิง
เมื่อข้อผิดพลาดปรากฏชัด Deloitte ตัดสินใจคืนเงินงวดสุดท้ายของสัญญาให้รัฐบาลออสเตรเลียและออกเวอร์ชันแก้ไขของรายงานดังกล่าว โดยลบรายการอ้างอิงที่ไม่มีอยู่จริงกว่า 12 รายการ แก้ไขเชิงบรรณานุกรม และชี้แจงกระบวนการใช้ AI ในรายงานอย่างละเอียดมากขึ้น แม้ว่าสาระสำคัญและคำแนะนำในรายงานจะยังคงเดิม ทีมงาน DEWR ก็ยืนยันว่ามีการปรับปรุงให้โปร่งใสมากขึ้น โดยทางสื่อ Australian Financial Review ชี้ว่าการเปิดเผยที่ล่าช้าทำให้ Deloitte อยู่ในตำแหน่งลำบากด้านความน่าเชื่อถือ
แง่คิดจากวงการ: มนุษย์ยังสำคัญแม้ในยุค AI
กรณี Deloitte สะท้อนชัดเจนว่าการใช้ AI ในงานที่เกี่ยวข้องกับนโยบายสาธารณะหรือข้อมูลสำคัญระดับประเทศ ต้องมีระบบตรวจสอบจากมนุษย์อย่างถึงที่สุด ถึงแม้เทคโนโลยีจะก้าวหน้าเพียงใดแต่ “มนุษย์ในวงจร” (human in the loop) คือด่านสุดท้ายที่ป้องกันผลกระทบใหญ่หลวง โดยเฉพาะเมื่อ AI มีโอกาสสร้างข้อมูลผิด หรือ “หลอน” ได้ง่ายหากไม่มีการกลั่นกรองอย่างเป็นระบบ
ขณะเดียวกัน เหตุการณ์นี้ยังเป็นบทเรียนให้กับทั้งภาครัฐและบริษัทที่ปรึกษาทั่วโลกว่าการนำ AI มาใช้ต้องมีความรับผิดชอบ โปร่งใส และไม่ละเลยการตรวจเช็คงานทุกขั้นตอน ทั้งนี้เพื่อไม่ให้เทคโนโลยีทรงพลังนี้กลายเป็นดาบสองคมสำหรับสังคมในอนาคต
Source : arstechnica.com, businessinsider.com, cxquest.com
