กฎแห่งอนาคต

ความเร็วคือสกุลเงินหลักของโลกเทคโนโลยีในปัจจุบัน บริษัทต่าง ๆ กำลังเร่งพัฒนาและใช้งาน Large language models เพราะกลัวว่าจะตามคู่แข่งไม่ทัน แต่การเร่งรีบโดยไม่มีเข็มทิศทางจริยธรรมจะสร้าง Technical debt ที่จะทำให้ผลิตภัณฑ์พังลงในที่สุด จริยธรรมใน AI ไม่ใช่แค่แนวคิดนามธรรมสำหรับวิชาปรัชญา แต่มันคือกรอบการทำงานเพื่อป้องกันความล้มเหลวครั้งใหญ่ในสภาพแวดล้อมการใช้งานจริง เมื่อโมเดลให้คำแนะนำทางกฎหมายที่ผิดพลาดหรือทำข้อมูลความลับรั่วไหล นั่นคือความล้มเหลวทางจริยธรรมที่มีต้นทุนทางการเงินโดยตรง บทความนี้จะเจาะลึกว่าทำไมการรีบทำตลาดถึงมักมองข้ามความเสี่ยงเหล่านี้ และทำไมกลยุทธ์นั้นถึงไม่ยั่งยืนสำหรับการเติบโตในระยะยาว เรากำลังพูดถึงการเปลี่ยนผ่านจากการถกเถียงเชิงทฤษฎีไปสู่ความปลอดภัยที่ใช้งานได้จริง หากคุณคิดว่าจริยธรรมเป็นแค่เรื่องของปัญหา Trolley problem คุณกำลังเข้าใจผิด มันคือเรื่องที่ว่าซอฟต์แวร์ของคุณเชื่อถือได้มากพอที่จะอยู่ในโลกแห่งความเป็นจริงหรือไม่ ประเด็นสำคัญนั้นเรียบง่าย Ethical AI คือ Functional AI อะไรที่น้อยกว่านั้นก็เป็นเพียงแค่ Prototype ที่รอวันล้มเหลวเท่านั้น ความสมบูรณ์ทางวิศวกรรมสำคัญกว่ากระแสการตลาดจริยธรรม AI มักถูกเข้าใจผิดว่าเป็นรายการสิ่งที่นักพัฒนาทำไม่ได้ แต่ในความเป็นจริง มันคือชุดมาตรฐานทางวิศวกรรมที่ทำให้มั่นใจว่าผลิตภัณฑ์ทำงานได้ตามที่ตั้งใจไว้สำหรับผู้ใช้ทุกคน ครอบคลุมตั้งแต่การเก็บข้อมูล การฝึกฝนโมเดล ไปจนถึงการตรวจสอบผลลัพธ์ คนส่วนใหญ่มักคิดว่าปัญหาคือแค่การหลีกเลี่ยงภาษาที่ไม่เหมาะสม แม้ว่านั่นจะสำคัญ แต่ขอบเขตของมันกว้างกว่านั้นมาก รวมถึงความโปร่งใสเมื่อผู้ใช้กำลังโต้ตอบกับเครื่องจักร รวมถึงต้นทุนทางสิ่งแวดล้อมจากการฝึกโมเดลที่ใช้พลังงานมหาศาล และยังรวมถึงสิทธิ์ของผู้สร้างผลงานที่ถูกนำไปใช้ฝึกโมเดลโดยไม่ได้รับอนุญาตนี่ไม่ใช่เรื่องของการทำตัวเป็นคนดี แต่มันคือเรื่องของความสมบูรณ์ของห่วงโซ่อุปทานข้อมูล หากรากฐานสร้างขึ้นจากข้อมูลที่ถูกขโมยมาหรือข้อมูลคุณภาพต่ำ โมเดลก็จะให้ผลลัพธ์ที่ไม่น่าเชื่อถือในที่สุด เรากำลังเห็นการเปลี่ยนแปลงไปสู่ความปลอดภัยที่ตรวจสอบได้ในอุตสาหกรรม

ทางเลือกที่เน้นการใช้งานจริงคนส่วนใหญ่มองว่าปรัชญาของปัญญาประดิษฐ์เป็นเรื่องถกเถียงว่าหุ่นยนต์มีจิตวิญญาณหรือไม่ ซึ่งเป็นความเข้าใจผิดที่เสียเวลาและบดบังความเสี่ยงที่แท้จริง ในโลกการทำงาน ปรัชญาของเทคโนโลยีนี้คือการพูดคุยเรื่องความรับผิดชอบ ความแม่นยำ และต้นทุนของแรงงานมนุษย์ มันคือการหาคำตอบว่าใครต้องรับผิดชอบเมื่อโมเดลทำผิดพลาดจนบริษัทเสียหายหลายล้านดอลลาร์ และเป็นเรื่องว่าคนทำงานสร้างสรรค์ยังคงเป็นเจ้าของสไตล์ที่ตัวเองสั่งสมมานานหลายทศวรรษหรือไม่ เรากำลังก้าวผ่านยุคที่สงสัยว่าเครื่องจักรคิดได้ไหม ไปสู่ยุคที่เราต้องตัดสินใจว่าจะเชื่อใจให้พวกมันทำแทนเราได้มากแค่ไหน การเปลี่ยนแปลงในอุตสาหกรรมช่วงที่ผ่านมาเปลี่ยนจากแชทบอทที่เอาไว้เล่นมุกตลก ไปสู่เอเจนต์ที่จองเที่ยวบินและเขียนโค้ดได้ การเปลี่ยนแปลงนี้บีบให้เราต้องเผชิญกับกลไกของความเชื่อใจแทนที่จะเป็นปริศนาเรื่องจิตสำนึก หากคุณเกลียดปรัชญา ให้มองว่ามันคือการเจรจาสัญญา คุณกำลังกำหนดเงื่อนไขให้กับพนักงานรูปแบบใหม่ที่ไม่เคยหลับใหลแต่ชอบหลอน (hallucinate) เป้าหมายคือการสร้างกรอบการทำงานที่ประโยชน์จากความเร็วไม่กลบความเสี่ยงของระบบล่มทั้งระบบ กลไกของตรรกะเครื่องจักรเพื่อให้เข้าใจสถานะปัจจุบันของอุตสาหกรรม คุณต้องเมินคำศัพท์ทางการตลาดทิ้งไป Large language model ไม่ใช่สมอง แต่มันคือแผนที่ทางสถิติขนาดมหึมาของภาษาคน เมื่อคุณพิมพ์คำสั่ง ระบบไม่ได้กำลังคิดถึงคำถามของคุณ แต่มันกำลังคำนวณว่าคำไหนมีโอกาสสูงที่สุดที่จะตามหลังคำก่อนหน้าโดยอ้างอิงจากตัวอย่างนับล้านล้าน นี่คือเหตุผลว่าทำไมระบบพวกนี้ถึงเก่งเรื่องกลอนแต่แย่เรื่องคณิตศาสตร์พื้นฐาน พวกมันเข้าใจรูปแบบการพูดถึงตัวเลข แต่ไม่เข้าใจตรรกะของตัวเลขนั้นจริงๆ ความแตกต่างนี้สำคัญมากสำหรับใครก็ตามที่ใช้เครื่องมือเหล่านี้ในเชิงธุรกิจ หากคุณมองผลลัพธ์ว่าเป็นบันทึกข้อเท็จจริง คุณกำลังใช้เครื่องมือผิดประเภท มันคือเครื่องสังเคราะห์ความคิดสร้างสรรค์ ไม่ใช่ฐานข้อมูล ความสับสนมักเกิดจากความสามารถในการเลียนแบบความเห็นอกเห็นใจของมนุษย์ มันอาจฟังดูใจดี หงุดหงิด หรือพร้อมช่วยเหลือ แต่นั่นเป็นเพียงกระจกสะท้อนทางภาษา มันสะท้อนโทนของข้อมูลที่มันถูกฝึกมาการเปลี่ยนแปลงที่เราเห็นเมื่อเร็วๆ นี้คือการนำโมเดลเหล่านี้มาเชื่อมโยงกับข้อมูลจริงในโลก แทนที่จะปล่อยให้โมเดลเดาสุ่ม บริษัทต่างๆ กำลังเชื่อมต่อพวกมันเข้ากับไฟล์ภายในของตัวเอง ซึ่งช่วยลดโอกาสที่โมเดลจะกุเรื่องขึ้นมาเอง และยังเปลี่ยนเดิมพันของการสนทนาด้วย เราไม่ได้ถามแล้วว่าโมเดลรู้อะไร แต่เรากำลังถามว่าโมเดลเข้าถึงสิ่งที่เรารู้อย่างไร นี่คือการเปลี่ยนจากงานศิลปะแบบ Generative ไปสู่การใช้งานจริง

มายาคติของโค้ดที่เป็นกลางบทสนทนาเกี่ยวกับปัญญาประดิษฐ์ (AI) มักวนเวียนอยู่กับเกณฑ์มาตรฐานทางเทคนิคและพลังในการประมวลผล เราพูดถึงพารามิเตอร์และเพตาไบต์ราวกับว่ามันเป็นตัวชี้วัดเดียวที่สำคัญ แต่การมุ่งเน้นเช่นนี้กลับบดบังความจริงที่เร่งด่วนกว่า นั่นคือ Large Language Model ทุกตัวเปรียบเสมือนกระจกเงาที่สะท้อนความชอบของมนุษย์ผู้สร้างมันขึ้นมา ไม่มีสิ่งที่เรียกว่าอัลกอริทึมที่เป็นกลาง เมื่อระบบให้คำตอบ มันไม่ได้ดึงข้อมูลมาจากสุญญากาศของความจริงที่เป็นกลาง แต่มันกำลังสะท้อนชุดค่านิยมที่ถูกกำหนดโดยนักพัฒนาและผู้ติดป้ายกำกับข้อมูล (data labelers) สรุปง่ายๆ คือ เราไม่ได้กำลังสอนให้เครื่องจักรคิด แต่เรากำลังสอนให้มันเลียนแบบบรรทัดฐานทางสังคมของเราที่มักจะขัดแย้งกันเอง การเปลี่ยนผ่านจากตรรกะไปสู่จริยธรรมนี้คือการเปลี่ยนแปลงที่สำคัญที่สุดในวงการคอมพิวเตอร์นับตั้งแต่การประดิษฐ์อินเทอร์เน็ต มันย้ายภาระความรับผิดชอบจากฮาร์ดแวร์ไปสู่มนุษย์ผู้กำหนดว่าคำตอบที่ “ถูกต้อง” ควรเป็นอย่างไร อุตสาหกรรมเพิ่งเปลี่ยนจุดเน้นจากความสามารถดิบๆ ไปสู่ความปลอดภัยและการปรับจูนให้สอดคล้องกับค่านิยม (alignment) ซึ่งฟังดูเหมือนการปรับแต่งทางเทคนิค แต่จริงๆ แล้วมันเป็นกระบวนการทางการเมืองอย่างลึกซึ้ง เมื่อเราขอให้โมเดลมีความช่วยเหลือ ไม่เป็นอันตราย และซื่อสัตย์ เรากำลังใช้คำที่มีความหมายต่างกันไปในแต่ละวัฒนธรรม ค่านิยมที่ดูเหมือนเป็นสากลในห้องประชุมที่ซานฟรานซิสโกอาจถูกมองว่าไม่เหมาะสมหรือไม่เกี่ยวข้องในจาการ์ตา ความตึงเครียดระหว่างสเกลระดับโลกกับค่านิยมท้องถิ่นคือความขัดแย้งหลักในเทคโนโลยีสมัยใหม่ เราต้องเลิกมองว่า AI เป็นพลังอิสระและเริ่มมองว่ามันเป็นส่วนขยายของเจตจำนงมนุษย์ที่ถูกคัดสรรมาแล้ว ซึ่งต้องมองข้ามการตลาดที่เกินจริงไปดูทางเลือกที่เกิดขึ้นจริงเบื้องหลังกระจกเงากลไกแห่งการเลือกของมนุษย์เพื่อให้เข้าใจว่าค่านิยมเข้าสู่เครื่องจักรได้อย่างไร คุณต้องดูที่ Reinforcement Learning from Human Feedback หรือ RLHF ซึ่งเป็นกระบวนการที่ผู้รับเหมาที่เป็นมนุษย์หลายพันคนจัดอันดับคำตอบต่างๆ จากโมเดล พวกเขาอาจเห็นคำตอบสองเวอร์ชันแล้วคลิกเลือกอันที่พวกเขาคิดว่าสุภาพหรือแม่นยำกว่า เมื่อเวลาผ่านไป โมเดลจะเรียนรู้ที่จะเชื่อมโยงรูปแบบบางอย่างเข้ากับความชอบของมนุษย์เหล่านี้