ทำไมเอเจนซีจึงเริ่มจับตาดูบอทของตัวเองอย่างกะทันหัน
สถานการณ์เริ่มแปลกไปอย่างรวดเร็ว: เอเจนซีเริ่มปล่อยเอเยนต์ AI ออกมาเพื่อตั้งแคมเปญ เลือกกลุ่มเป้าหมาย และเผยแพร่สื่อแบบเรียลไทม์ และเครื่องจักรเหล่านี้ก็ตอบแทนพวกเขาด้วยความกระตือรือร้น — บางครั้งก็กระตือรือร้นเกินไป หากไม่มีการตรวจสอบ ผู้ช่วยเหล่านี้อาจทำเกินหน้าที่ สร้างขั้นตอนขึ้นมาเอง พูดสิ่งที่ไม่มีสาระ หรือเพียงแต่กินงบประมาณไปอย่างไม่ยั้งเหมือนเครื่องขายอัตโนมัติตอนตี 3 ผลลัพธ์ที่เกิดขึ้นไม่ใช่ความวุ่นวายแบบนิยายวิทยาศาสตร์ แต่เป็นการเพิ่มขึ้นของงบประมาณที่ทั้งน่าเบื่อและอันตราย พร้อมกับการแก้ไขสเปรดชีตอย่างตื่นตระหนก
เนื่องจากมีทีมจำนวนมากอย่างน่าประหลาดใจที่นำเครื่องมือเหล่านี้มาใช้ก่อนที่จะเขียนกฎเกณฑ์ การเฝ้าติดตามจึงกลายเป็นทักษะการอยู่รอดแบบใหม่ หากไม่มีระบบควบคุมขั้นพื้นฐาน ตัวช่วย AI อาจเบี่ยงเบนจากคำสั่งที่ได้รับ เลือกโมเดลที่มีค่าใช้จ่ายสูงลิ่ว หรือดำเนินกระบวนการที่ไม่มีใครบันทึกไว้ นั่นคือเหตุผลที่บริษัทต่างๆ กำลังเพิ่มชั้นการเฝ้าระวัง — คิดถึงมันเหมือนเข็มขัดนิรภัย ตัวควบคุมความเร็ว และเครื่องบันทึกการเดินทางสำหรับผู้ช่วยดิจิทัล — เพื่อไม่ให้เครื่องจักรเปลี่ยนไอเดียที่กระตือรือร้นให้กลายเป็นใบแจ้งหนี้มหาศาล
วิธีการทำงานของระบบเฝ้าระวัง (และสิ่งที่โง่ๆ ที่มันหยุดได้)
ชุดเครื่องมือที่กำลังถูกจัดเตรียมนี้ดูเรียบง่ายในทฤษฎี แต่ในทางปฏิบัติอาจดูเป็นงานของนักเทคโนโลยีเล็กน้อย: บันทึกการตรวจสอบที่บันทึกเวลาของทุกการกระทำ บันทึกการตัดสินใจที่อธิบายเหตุผลของการเปลี่ยนแปลง และขีดจำกัดการใช้โทเคน เพื่อป้องกันไม่ให้ใครเผางบประมาณโดยไม่ได้ตั้งใจ เมื่อตัวแทนปรับเปลี่ยนราคาเสนอหรือเปลี่ยนกลุ่มเป้าหมาย การดำเนินการดังกล่าวจะถูกบันทึกไว้พร้อมข้อมูลว่าใครเป็นผู้ดำเนินการ เมื่อใด และวิธีการเปลี่ยนแปลงนั้นเกิดขึ้นอย่างไร สิ่งนี้ทำให้สามารถย้อนดูข้อมูลและตอบคำถามที่น่าสนใจว่า: ทำไมระบบนี้จึงทำเช่นนั้น?
ทีมต่าง ๆ กำลังผสมผสานวิธีการต่าง ๆ บางทีมติดตามค่าลิขสิทธิ์ การใช้โทเคน และเวลาของพนักงาน เพื่อวัดอย่างคร่าวๆ ว่าเอเจนต์นั้นประหยัดเงินได้จริงหรือเพียงแค่ย้ายค่าใช้จ่ายไปมาเท่านั้น ส่วนทีมอื่น ๆ กลางการเลือกโมเดล เพื่อให้ผู้ใช้สามารถส่งคำสั่งได้โดยไม่เลือกโมเดลขนาดใหญ่ที่กินทรัพยากรการคำนวณมากเกินไปโดยไม่ได้ตั้งใจ บางแห่งยังแบ่งการเข้าถึงโทเค็นเป็นระดับต่าง ๆ: ทดลอง, รับรายได้เพิ่มเติม, หรือปรึกษาผู้จัดการ จุดตรวจสอบที่มีมนุษย์เข้ามาเกี่ยวข้องนี้ช่วยเปลี่ยนระบบอัตโนมัติที่ควบคุมไม่ได้ให้กลายเป็นช่วงเวลาที่สามารถสอนได้และคิดค่าบริการได้
เคล็ดลับอีกอย่างที่น่าสนใจคือการบังคับให้เอเจนต์ใช้ขั้นตอนหรือเอกสารที่บันทึกไว้ โดยการฝังลำดับขั้นตอนที่แนะนำไว้ในระบบตั้งค่าของเอเจนต์ คุณจะลดโอกาสที่มันจะคิดแผนนอกเส้นทางขึ้นมาเอง สิ่งนี้ไม่ใช่เรื่องความเชื่อมั่น แต่เป็นเรื่องความคาดการณ์ได้มากกว่า: ฝึกเครื่องมือให้ปฏิบัติตามสคริปต์ และมันก็จะน้อยโอกาสที่จะคิดแคมเปญใหญ่ขึ้นมาเองขณะที่คุณกำลังพักรับประทานอาหารกลางวัน
มาตรการควบคุมที่ปฏิบัติได้จริงและข้อแลกเปลี่ยนที่แท้จริง
หัวใจของปัญหาส่วนใหญ่คือการเลือกโมเดล โมเดลที่ใหญ่และซับซ้อนกว่าจะบริโภคโทเคนมากขึ้น การเลือกตัวเลือกที่ทรงพลังที่สุดสำหรับทุกงานเล็กๆ ก็เหมือนการนำรถบรรทุกไปซื้อของที่ร้านขายของชำ — เกินความจำเป็นและแพงเกินไป วิธีแก้ไขนั้นอาจดูน่าเบื่อแต่มีประสิทธิภาพ: ให้ปรับความสามารถของโมเดลให้สอดคล้องกับความต้องการของงาน และทำให้การปรับนี้กลายเป็นส่วนหนึ่งของกระบวนการทำงาน เพื่อป้องกันไม่ให้ผู้คนเลือกตัวเลือกที่ดูน่าตื่นตาตื่นใจเพียงเพราะอยากลอง
เครื่องมืออื่น ๆ ที่มีประโยชน์ ได้แก่ การกำหนดขีดจำกัดโทเคนรายวัน บันทึกการตัดสินใจที่อ่านเข้าใจง่าย และแดชบอร์ดที่แจ้งเตือนพฤติกรรมผิดปกติตั้งแต่เนิ่น ๆ เมื่อใครนั้นถึงขีดจำกัดซ้ำๆ นั่นคือสัญญาณให้ตรวจสอบว่าพวกเขากำลังทดลองอย่างชาญฉลาด หรือเพียงแต่ใช้ทรัพยากรอย่างสิ้นเปลือง การจัดเส้นทางคำขอแบบรวมศูนย์ยังช่วยตอบสนองข้อจำกัดทางกฎหมายหรือเชิงพาณิชย์ได้ เช่น เมื่อข้อมูลต้องอยู่ในประเทศเฉพาะ หรือเมื่อลูกค้ายืนยันที่จะใช้การตั้งค่าโฮสติ้งแบบเฉพาะเจาะจง
ความจริงที่น่าขบขันคือว่า สิ่งเหล่านี้ไม่ต้องการเวทมนตร์ — เพียงแค่มีมาตรการป้องกันที่สมเหตุสมผลไม่กี่อย่าง และไม่ลืมว่ามนุษย์ยังคงเป็นผู้รับผิดชอบในท้ายที่สุด การอัตโนมัติสามารถเร่งกระบวนการตั้งค่าและลดเวลาการทำงานซ้ำซากได้หลายชั่วโมง แต่มันจะไม่กลายเป็นระบบที่ประหยัดหรือสอดคล้องกับข้อกำหนดได้โดยอัตโนมัติ จับตาดูเอเจนต์ จำกัดงบประมาณสำหรับของว่างของพวกเขา และเก็บสมุดบันทึกไว้ใกล้มือ ด้วยวิธีนี้ เมื่อมีสิ่งผิดปกติเกิดขึ้น คุณก็สามารถอธิบายได้โดยไม่ต้องโทษผู้ปกครองหุ่นยนต์ในจินตนาการ