Adaptive Engineering: ทำไมปล่อยให้ AI จัดระเบียบตัวเองอาจชนะการแข่งขันในอนาคต

คุณเคยสงสัยไหมว่า ทำไมเรายิ่งพยายามควบคุมระบบ AI ให้ละเอียดทุกขั้นตอน ระบบกลับยิ่งพังง่ายและเปราะบางทันทีที่นำไปใช้ในโลกจริง?

บนเวที AI Engineer ครั้งล่าสุด มีวิศวกรคนหนึ่งได้เสนอแนวคิดที่ฟังดูขัดกับสามัญสำนึกของวงการพัฒนาซอฟต์แวร์ เขาเชื่อว่า แทนที่จะวางระบบ AI ให้เป๊ะทุกขั้นตั้งแต่ต้น เราควรตั้งกติกาไว้แค่ไม่กี่ข้อ แล้วปล่อยให้ระบบจัดระเบียบตัวเอง และนี่คือหัวใจของ Adaptive Engineering ที่จะชนะการแข่งขันด้าน AI ในยุคต่อไป

Harness Engineering กับสายพานโรงงานที่กำลังพัง

ก่อนจะไปถึงแนวคิดใหม่ ต้องทำความเข้าใจคำว่า Harness ก่อน ซึ่งหมายถึงระบบทั้งหมดที่ช่วยให้โมเดล AI ลงมือทำงานเองเป็นขั้นๆ ได้ ไม่ใช่แค่ตัวโมเดลเพียงอย่างเดียว ระบบนี้รวมทั้งไฟล์คำสั่ง (System Prompt) ที่ AI อ่านก่อนลงมือ เครื่องมือ (Tools) ที่ AI เรียกใช้ และ AI ตัวย่อยๆ ที่เราเรียกว่า Agent ซึ่งแบ่งกันรับงานคนละส่วน

วิธีที่ใช้กันอยู่ตอนนี้เรียกว่า Harness Engineering คือการออกแบบ harness ทั้งชุดให้เสร็จก่อนเริ่มงาน ผู้พูดเทียบมันกับสายพานในโรงงาน ที่ agent แต่ละตัวมีงานเดียว มีตำแหน่งตายตัว และมีจุดส่งต่องานที่ชัดเจน

ข้อดีคือระบบน่าเชื่อถือสูง เมื่อใส่อินพุตแบบเดิมก็ได้ผลใกล้เคียงเดิม แถมยังตรวจสอบย้อนหลังได้ว่าจุดไหนเปลี่ยนไป แต่ปัญหาคือ ตอนนี้มีสองอย่างกำลังเปลี่ยนไปพร้อมกัน:

1. โมเดลเก่งขึ้นอย่างรวดเร็ว และยังไม่มีทีท่าว่าจะหยุด
2. AI ขยับจากหน้าจอไปสู่โลกจริง เริ่มทำงานกับคน องค์กร และสิ่งของที่จับต้องได้

โลกแบบนั้นเปลี่ยนตลอดเวลา harness ที่ตั้งไว้ตายตัวจึงตามไม่ทัน และพังง่ายทันทีที่นำไปใช้จริง

ความผิดพลาดตั้งแต่ต้น: Complicated ไม่ใช่ Complex

ผู้พูดมองว่าต้นเหตุที่แท้จริงคือเราจัดประเภทปัญหาผิดมาตั้งแต่แรก เขาแบ่งปัญหาในโลกออกเป็นสองแบบ ดังนี้:

ประเภทปัญหา	ลักษณะ	ตัวอย่าง	วิธีแก้ปัญหาที่เหมาะสม
Complicated	ซับซ้อนแบบถอดประกอบได้ ชิ้นส่วนไม่เปลี่ยนพฤติกรรมเอง	เครื่องบิน, นาฬิกา	วิเคราะห์ วางแผน ทำนายผลล่วงหน้า
Complex	ซับซ้อนแบบมีชีวิต ชิ้นส่วนคอยตอบสนองและปรับตัวตลอด	ฝูงนก, ตลาดหุ้น, องค์กร	ลอง สังเกต แล้วค่อยปรับ

งานวิศวกรรมส่วนใหญ่ที่ล้มเหลว ไม่ได้เกิดจากทีมทำงานไม่เก่งพอ แต่เพราะเลือกใช้วิธีสำหรับปัญหาแบบ Complicated มาแก้ปัญหาแบบ Complex ตั้งแต่ต้น นั่นคือเหตุผลที่ harness แบบเดิมไม่เข้ากับงาน AI ในโลกจริง

Emergence: บทเรียนจากฝูงนก

ลองนึกภาพนกเป็นพันตัวบินพร้อมกัน ไม่มีผู้นำฝูง และไม่มีนกตัวไหนถือแบบแปลนของทั้งฝูงไว้ นกแต่ละตัวทำตามกติกาแค่สามข้อ:

1. บินไปทางเดียวกับตัวข้างๆ
2. รักษาระยะไม่ให้ชนกัน
3. ไม่อยู่ห่างฝูงเกินไป

จากกติกาง่ายๆ แค่สามข้อ รูปทรงของทั้งฝูงก็ก่อตัวขึ้นมาเอง ทั้งที่ไม่มีนกตัวไหนรู้เลยว่าทั้งฝูงเป็นรูปอะไร สิ่งนี้เรียกว่า Emergence คือรูปแบบใหม่ที่โผล่ขึ้นมาเองโดยไม่มีใครออกแบบ และอธิบายด้วยการแยกดูทีละส่วนไม่ได้

Adaptive Engineering คืออะไร?

ลองเอาภาพฝูงนกมาเทียบกับ AI ให้ agent แต่ละตัวเป็นเหมือนนกหนึ่งตัว ที่คอยปรับตัวเข้าหา agent ที่อยู่ข้างๆ ตามกติกาไม่กี่ข้อ พอ agent หลายตัวมีปฏิสัมพันธ์กัน การทำงานร่วมกันก็ค่อยๆ เกิดเป็นแบบแผนขึ้นมาเอง และรูปแบบที่ก่อตัวขึ้นนั่นเองคือ harness ที่เราไม่ต้องออกแบบไว้ให้ครบตั้งแต่ต้น

หัวใจของ Adaptive Engineering คือ วิศวกรออกแบบแค่กติกา แล้วปล่อยให้ harness ก่อตัวขึ้นเองจากการทำงานร่วมกันของ agent

วิศวกรไม่ตกงาน แค่เปลี่ยนบทบาท

แล้ววิศวกรจะตกงานไหม? ไม่เลย แค่บทบาทเปลี่ยน จากคนที่กำหนดผลลัพธ์ทุกอย่างไว้ล่วงหน้า มาเป็นคนออกแบบกติกา คอยสังเกต harness ที่ก่อตัวขึ้น แล้วปรับตามสถานการณ์ แทนที่จะรื้อทั้งระบบมาทำใหม่ทุกครั้งที่ผลไม่ตรงใจ

สิ่งที่วิศวกรปรับได้จริงมีไม่กี่อย่าง เช่น:

• ระดับอิสระของ Agent: จะให้ตัดสินใจเองได้ขนาดไหน
• ระบบรางวัลและโทษ: ให้รางวัลเมื่อเข้าใกล้เป้า หรือลงโทษเมื่อหลุดกรอบ
• ความเร็วในการเชื่อมโยง: จะให้ agent เชื่อมโยงกันได้เร็วหรือช้าแค่ไหน

ทั้งหมดนี้คือการกำหนดเงื่อนไขการทำงานของระบบ ไม่ใช่การกำหนดผลลัพธ์โดยตรง

สิ่งที่ต้องแลก: ความสามารถในการทำนาย

อย่างไรก็ตาม Adaptive Engineering ไม่ได้แปลว่าปล่อย agent ให้ทำงานกันเองแบบไร้ทิศทาง และยังมีข้อจำกัดที่ต้องยอมรับ:

1. Local Optima: ถ้าไม่มีอะไรคอยคัดว่าผลลัพธ์แบบไหนดีกว่ากันจริงๆ ระบบอาจไปจบที่ผลลัพธ์ที่แค่ดูเหมือนดีที่สุด ทั้งที่ยังมีทางที่ดีกว่านั้น
2. ขาดความหลากหลาย: ถ้า agent ทุกตัวเทรนมาจากข้อมูลชุดเดียวกัน มันอาจเหมือนกันไปหมดจนระบบขาดความหลากหลายที่จำเป็นต่อการเกิด Emergence
3. ความสามารถในการตรวจสอบลดลง: ยิ่งระบบปรับตัวเก่งขึ้เท่าไหร่ ก็ยิ่งอธิบายได้ยากขึ้นว่าตอนนี้มันกำลังทำอะไรอยู่ จนแทบทำนายล่วงหน้าไม่ได้

พูดง่ายๆ คือ เราได้ระบบที่ปรับตัวเก่งขึ้น แต่ต้องแลกกับความสามารถในการตรวจสอบและทำนายที่ลดลง

สรุป: เลือกประเภทของปัญหาให้ถูก

ผู้พูดเองก็ไม่ฟันธงว่าทางนี้ดีกว่าเสมอไป เขาแค่ชวนคนอื่นมาช่วยกันสำรวจว่านี่คือทิศทางที่ถูกจริงไหม คำถามชวนคิดจากทอล์กนี้คือ งานตรงหน้าเราเป็นปัญหาแบบไหน?

เป็นแบบที่ถอดประกอบแล้ววางแผนล่วงหน้าได้ (Complicated) หรือแบบที่มีชีวิตและต้องปล่อยให้ค่อยๆ ปรับตัว (Complex) เพราะการเลือกประเภทของปัญหาให้ถูกตั้งแต่ต้น อาจสำคัญกว่าการมีเครื่องมือที่ดีที่สุดเสียอีก

ลองนำแนวคิดนี้ไปทดลองกับระบบ Agent ของคุณในโปรเจกต์ถัดไป แล้วอย่าลืมแชร์ประสบการณ์มาคุยกันได้ในคอมเมนต์

คุณมองว่างานที่กำลังทำอยู่ตอนนี้ เป็นปัญหาแบบ Complicated หรือ Complex กันแน่? มาแลกเปลี่ยนความคิดเห็นกันได้เลย!