ไทยเริ่มทดสอบความปลอดภัย AI ก่อนใช้งานจริง ด้วยวิธี AI Red Teaming

การกำกับดูแลปัญญาประดิษฐ์ หรือ AI Governance อาจฟังดูซับซ้อน แต่ปีนี้ไทยเริ่มให้ความสำคัญกับการทดสอบความปลอดภัยของ AI ก่อนนำไปใช้งานจริงมากขึ้น

แนวคิดสำคัญคือ การมีผู้ทดสอบระบบ หรือที่เรียกว่า "AI Red Teaming" เพื่อหาจุดอ่อนและช่องโหว่ ก่อนที่ AI จะถูกนำไปใช้ในการตัดสินใจหรือให้บริการแก่ประชาชน

ปัจจุบันได้เริ่มมีการทดสอบ AI ในลักษณะนี้แล้ว โดยเฉพาะกับระบบจำลองที่เกี่ยวข้องกับการธนาคาร เพื่อให้มั่นใจว่า AI มีความเสถียรและปลอดภัย

การทดสอบเชิงรุกนี้จะช่วยสร้างความเชื่อมั่นให้กับผู้ใช้งาน และป้องกันปัญหาที่อาจเกิดขึ้นจากการนำ AI มาใช้ในวงกว้าง