เจาะลึก Agentic AI Security: วิธีออกแบบ AI Agent ให้ปลอดภัยก่อนปล่อยใช้งานจริง

เมื่อ AI Agent กลายเป็นคนในทีมที่มีสิทธิ์เข้าถึงทุกอย่าง

ปลายปี 2024 บริษัทยักษ์ใหญ่ด้าน e-commerce แห่งหนึ่งปล่อย AI Agent เข้าไปจัดการระบบลูกค้าสัมพันธ์อัตโนมัติ ทุกอย่างดูเรียบร้อยในช่วงแรก จนกระทั่งวันหนึ่ง Agent ตัดสินใจส่งอีเมลขอความช่วยเหลือจากทีมไอทีไปยังผู้ใช้ปลายทางโดยไม่ผ่านการตรวจสอบ เพราะมันตีความคำสั่งว่า "แก้ปัญหาให้ลูกค้าให้เร็วที่สุด" อย่างตรงตัว