สิ่งที่วงการ AI กำลังกังวลมากที่สุดในแง่กฎหมายและระเบียบข้อบังคับ

ยุคสมัยแห่งจริยธรรม AI แบบสมัครใจได้จบลงแล้ว หลายปีที่ผ่านมาบริษัทเทคโนโลยียักษ์ใหญ่และเหล่า startup ต่างดำเนินงานในพื้นที่ที่ใช้เพียง “หลักการ” และ “แนวทางปฏิบัติ” เป็นเครื่องยึดเหนี่ยว แต่สิ่งนั้นเปลี่ยนไปแล้วเมื่อมีการสรุปผลของกฎหมาย EU AI Act และการฟ้องร้องคดีความระลอกใหญ่ในสหรัฐอเมริกา ปัจจุบันบทสนทนาเปลี่ยนจากการตั้งคำถามว่า AI ทำอะไรได้บ้าง มาเป็นสิ่งที่ AI ได้รับอนุญาตให้ทำตามกฎหมาย ทีมกฎหมายในตอนนี้ได้เข้าไปนั่งอยู่ในห้องเดียวกับวิศวกรซอฟต์แวร์แล้ว นี่ไม่ใช่เรื่องของปรัชญานามธรรมอีกต่อไป แต่เป็นเรื่องของภัยคุกคามจากค่าปรับที่อาจสูงถึง 7 เปอร์เซ็นต์ของรายได้รวมต่อปีของบริษัททั่วโลก วงการกำลังเตรียมรับมือกับช่วงเวลาที่การปฏิบัติตามกฎระเบียบ (compliance) มีความสำคัญไม่น้อยไปกว่าพลังในการประมวลผล (compute power) บริษัทต่างๆ ถูกบังคับให้ต้องจัดทำเอกสารข้อมูลที่ใช้ฝึกฝน พิสูจน์ว่าโมเดลของตนไม่มีอคติ และยอมรับว่าแอปพลิเคชันบางอย่างนั้นผิดกฎหมาย การเปลี่ยนผ่านจากสภาพแวดล้อมที่ไร้กฎเกณฑ์ไปสู่การควบคุมที่เข้มงวดถือเป็นการเปลี่ยนแปลงครั้งสำคัญที่สุดในภาคเทคโนโลยีในรอบหลายทศวรรษ

การเปลี่ยนผ่านสู่การปฏิบัติตามกฎระเบียบแบบบังคับ

หัวใจสำคัญของความเคลื่อนไหวด้านกฎระเบียบในปัจจุบันคือแนวทางที่อิงตามความเสี่ยง (risk-based approach) ผู้คุมกฎไม่ได้พยายามแบน AI แต่กำลังพยายามจัดหมวดหมู่มัน ภายใต้กฎใหม่ ระบบ AI จะถูกแบ่งออกเป็น 4 ระดับ ได้แก่ ความเสี่ยงที่ยอมรับไม่ได้ ความเสี่ยงสูง ความเสี่ยงจำกัด และความเสี่ยงต่ำ ระบบที่ใช้การระบุตัวตนด้วยไบโอเมตริกซ์ในพื้นที่สาธารณะหรือการให้คะแนนทางสังคมโดยรัฐบาลส่วนใหญ่จะถูกแบน ซึ่งถือเป็นความเสี่ยงที่ยอมรับไม่ได้ ส่วนระบบความเสี่ยงสูงคือระบบที่ส่งผลกระทบต่อชีวิตของคุณจริงๆ เช่น AI ที่ใช้ในการจ้างงาน การให้คะแนนเครดิต การศึกษา และการบังคับใช้กฎหมาย หากบริษัทสร้างเครื่องมือเพื่อคัดกรองเรซูเม่ พวกเขาต้องปฏิบัติตามมาตรฐานความโปร่งใสและความแม่นยำที่เข้มงวด ไม่สามารถอ้างลอยๆ ว่าอัลกอริทึมของตนใช้งานได้ แต่ต้องพิสูจน์ผ่านเอกสารที่รัดกุมและการตรวจสอบจากบุคคลที่สาม ซึ่งถือเป็นภาระในการดำเนินงานมหาศาลสำหรับบริษัทที่เคยเก็บการทำงานภายในเป็นความลับ

โมเดล AI อเนกประสงค์ (General purpose AI models) เช่น Large Language Models ที่ขับเคลื่อนแชทบอท ก็มีกฎเกณฑ์ของตัวเอง โมเดลเหล่านี้ต้องเปิดเผยว่าเนื้อหาถูกสร้างโดย AI หรือไม่ และต้องให้ข้อมูลสรุปเกี่ยวกับข้อมูลที่มีลิขสิทธิ์ที่ใช้ในการฝึกฝน ซึ่งนี่คือจุดที่เกิดความตึงเครียด บริษัท AI ส่วนใหญ่มองว่าข้อมูลที่ใช้ฝึกฝนเป็นความลับทางการค้า แต่ผู้คุมกฎระบุว่าความโปร่งใสเป็นข้อกำหนดสำหรับการเข้าสู่ตลาด หากบริษัทไม่สามารถหรือไม่ยอมเปิดเผยแหล่งที่มาของข้อมูล ก็อาจถูกปิดกั้นจากตลาดในยุโรป นี่คือความท้าทายโดยตรงต่อธรรมชาติแบบ “กล่องดำ” (black box) ของการเรียนรู้ของเครื่องสมัยใหม่ ซึ่งบีบให้เกิดความโปร่งใสในระดับที่วงการต่อต้านมานานหลายปี เป้าหมายคือเพื่อให้แน่ใจว่าผู้ใช้ทราบเมื่อกำลังโต้ตอบกับเครื่องจักร และผู้สร้างสรรค์ผลงานทราบว่างานของตนถูกนำไปใช้สร้างเครื่องจักรนั้นหรือไม่

ผลกระทบของกฎเหล่านี้ขยายไปไกลกว่ายุโรป ซึ่งมักถูกเรียกว่า Brussels Effect เนื่องจากเป็นเรื่องยากที่จะสร้างซอฟต์แวร์หลายเวอร์ชันสำหรับแต่ละประเทศ บริษัทจำนวนมากจึงเลือกใช้กฎที่เข้มงวดที่สุดทั่วโลก เราเคยเห็นสิ่งนี้กับกฎหมายความเป็นส่วนตัวของข้อมูลเมื่อไม่กี่ปีก่อน และตอนนี้เรากำลังเห็นมันกับ AI ในสหรัฐอเมริกา แนวทางนั้นแตกต่างออกไปแต่ส่งผลกระทบไม่แพ้กัน แทนที่จะมีกฎหมายฉบับเดียวใหญ่ๆ สหรัฐฯ กำลังใช้คำสั่งฝ่ายบริหารและการฟ้องร้องคดีความระดับสูงจำนวนมากเพื่อกำหนดขอบเขต คำสั่งฝ่ายบริหารของสหรัฐฯ จาก 2027 เน้นไปที่การทดสอบความปลอดภัยสำหรับโมเดลที่ทรงพลังที่สุด ในขณะเดียวกัน ศาลกำลังตัดสินว่าการฝึกฝน AI ด้วยหนังสือและบทความข่าวที่มีลิขสิทธิ์ถือเป็น “การใช้งานที่เป็นธรรม” (fair use) หรือ “การขโมย” การต่อสู้ทางกฎหมายเหล่านี้จะเป็นตัวกำหนดอนาคตทางเศรษฐกิจของวงการ หากบริษัทต้องจ่ายเงินเพื่อขออนุญาตใช้ข้อมูลทุกชิ้น ต้นทุนในการสร้าง AI จะพุ่งสูงขึ้นอย่างรวดเร็ว

จีนก็ได้เคลื่อนไหวอย่างรวดเร็วในการควบคุม Generative AI กฎของพวกเขาเน้นไปที่การทำให้แน่ใจว่าผลลัพธ์ของ AI นั้นถูกต้องและสอดคล้องกับค่านิยมทางสังคม พวกเขากำหนดให้บริษัทต้องลงทะเบียนอัลกอริทึมกับรัฐบาล สิ่งนี้สร้างสภาพแวดล้อมระดับโลกที่แตกแยก นักพัฒนาในซานฟรานซิสโกตอนนี้ต้องกังวลทั้ง EU AI Act กฎหมายลิขสิทธิ์ของสหรัฐฯ และการลงทะเบียนอัลกอริทึมของจีน ความแตกแยกนี้เป็นข้อกังวลหลักของวงการ มันสร้างอุปสรรคในการเข้าสู่ตลาดที่สูงสำหรับผู้เล่นรายย่อยที่ไม่สามารถแบกรับค่าใช้จ่ายของแผนกกฎหมายขนาดใหญ่ได้ ความกลัวคือจะมีเพียงบริษัทเทคโนโลยียักษ์ใหญ่เท่านั้นที่มีทรัพยากรเพียงพอที่จะปฏิบัติตามกฎระเบียบในทุกภูมิภาค ซึ่งอาจนำไปสู่สถานการณ์ที่ยักษ์ใหญ่ไม่กี่รายควบคุมตลาดทั้งหมดเพราะเป็นเพียงกลุ่มเดียวที่สามารถจ่าย “ภาษีการปฏิบัติตามกฎระเบียบ” (compliance tax) ได้

ในโลกแห่งความเป็นจริง สิ่งนี้ดูเหมือนการเปลี่ยนแปลงพื้นฐานในวิธีการสร้างผลิตภัณฑ์ ลองจินตนาการถึงผู้จัดการผลิตภัณฑ์ที่ startup ขนาดกลาง เมื่อปีก่อน เป้าหมายของพวกเขาคือการปล่อยฟีเจอร์ AI ใหม่ให้เร็วที่สุด แต่วันนี้ การประชุมแรกของพวกเขาคือการคุยกับเจ้าหน้าที่ฝ่ายกำกับดูแล (compliance officer) พวกเขาต้องติดตามชุดข้อมูลทุกชุดที่ใช้ ต้องทดสอบโมเดลสำหรับอาการ “หลอน” (hallucinations) และอคติ ต้องสร้างระบบ “คนในวงจร” (human in the loop) เพื่อกำกับดูแลการตัดสินใจของ AI สิ่งนี้เพิ่มระยะเวลาในวงจรการพัฒนาไปอีกหลายเดือน สำหรับผู้สร้างสรรค์ผลงาน ผลกระทบนั้นแตกต่างออกไป พวกเขากำลังมองหาเครื่องมือที่สามารถพิสูจน์ได้ว่าผลงานของพวกเขาไม่ได้ถูกนำไปฝึกฝนโดยการขโมยงาน เรากำลังเห็นการเกิดขึ้นของ “Licensed AI” ที่ทุกภาพและทุกประโยคในชุดข้อมูลฝึกฝนได้รับการตรวจสอบ นี่คือการก้าวไปสู่แนวทางการสร้างเทคโนโลยีที่ยั่งยืนขึ้นแต่มีราคาแพงขึ้น

ชีวิตประจำวันของเจ้าหน้าที่ฝ่ายกำกับดูแลตอนนี้เกี่ยวข้องกับเซสชัน “red teaming” ที่พวกเขาพยายามเจาะระบบ AI ของตัวเอง พวกเขามองหาวิธีที่โมเดลอาจให้คำแนะนำที่เป็นอันตรายหรือแสดงอคติ พวกเขาบันทึกความล้มเหลวเหล่านี้และการแก้ไข เอกสารเหล่านี้ไม่ได้มีไว้เพื่อใช้ภายในเท่านั้น แต่ต้องพร้อมสำหรับการตรวจสอบโดยหน่วยงานรัฐบาลได้ตลอดเวลา นี่ห่างไกลจากยุค “move fast and break things” อย่างสิ้นเชิง ตอนนี้หากคุณทำพัง คุณอาจเผชิญกับการฟ้องร้องจากองค์กรข่าวใหญ่หรือค่าปรับจากหน่วยงานรัฐบาล EU AI Act ได้เปลี่ยนการพัฒนา AI ให้กลายเป็นวิชาชีพที่มีการกำกับดูแล คล้ายกับการธนาคารหรือการแพทย์ คุณสามารถค้นหา บทวิเคราะห์นโยบาย AI ฉบับสมบูรณ์ ที่ให้รายละเอียดว่ากฎเหล่านี้ถูกนำไปใช้กับภาคส่วนต่างๆ อย่างไรในปัจจุบัน เดิมพันในตอนนี้ไม่ใช่แค่เรื่องประสบการณ์ผู้ใช้อีกต่อไป แต่เป็นเรื่องของการอยู่รอดทางกฎหมาย

วงการยังคงต่อสู้กับ “กับดักลิขสิทธิ์” (Copyright Trap) สำนักพิมพ์ใหญ่ๆ อย่าง New York Times ได้ฟ้องร้องบริษัท AI ฐานใช้บทความของพวกเขาโดยไม่ได้รับอนุญาต คดีเหล่านี้ไม่ใช่แค่เรื่องเงิน แต่เป็นเรื่องของสิทธิในการดำรงอยู่ หากศาลตัดสินว่าการฝึกฝน AI ไม่ใช่การใช้งานที่เป็นธรรม โมเดลธุรกิจทั้งหมดของ Generative AI อาจพังทลายลง บริษัทจะต้องลบโมเดลปัจจุบันและเริ่มต้นใหม่ด้วยข้อมูลที่ได้รับอนุญาต นี่คือเหตุผลที่เราเห็นบริษัทอย่าง OpenAI ทำข้อตกลงกับองค์กรข่าว พวกเขากำลังพยายามก้าวนำความเสี่ยงทางกฎหมาย พวกเขากำลังแลกเงินกับสิทธิ์ทางกฎหมายในการใช้ข้อมูล สิ่งนี้สร้างเศรษฐกิจใหม่ที่ข้อมูลเป็นสินค้าที่มีค่าที่สุด

อย่างไรก็ตาม สิ่งนี้ช่วยได้เพียงสำนักพิมพ์รายใหญ่เท่านั้น ผู้สร้างสรรค์ผลงานรายย่อยและศิลปินอิสระยังคงตั้งคำถามว่าพวกเขาจะได้รับค่าตอบแทนอย่างไรในระบบใหม่นี้

มีเรื่องราว, เครื่องมือ, เทรนด์ หรือคำถามเกี่ยวกับ AI ที่คุณคิดว่าเราควรนำเสนอหรือไม่? ส่งแนวคิดบทความของคุณมาให้เรา — เรายินดีรับฟัง

ความสงสัยแบบโสเครตีสแนะนำว่าเราควรตั้งคำถามว่ากฎเหล่านี้ปกป้องใครกันแน่ ปกป้องสาธารณชน หรือปกป้องผู้เล่นรายเดิม? หากต้นทุนในการปฏิบัติตามกฎระเบียบสูงถึงหลายล้านดอลลาร์ startup สองคนในโรงรถก็ไม่สามารถแข่งขันได้ เราอาจกำลังสร้างการผูกขาดให้กับบริษัทที่มีเงินทุนอยู่แล้วโดยไม่ได้ตั้งใจ นอกจากนี้ยังมีคำถามเรื่องความเป็นส่วนตัว เพื่อพิสูจน์ว่า AI ไม่มีอคติต่อกลุ่มคนบางกลุ่ม บริษัทอาจจำเป็นต้องรวบรวมข้อมูลเกี่ยวกับกลุ่มนั้นมากขึ้น สิ่งนี้สร้างความย้อนแย้งที่ว่าต้องมีการสอดส่องมากขึ้นเพื่อให้แน่ใจว่าเกิด “ความยุติธรรม” เราต้องตั้งคำถามเกี่ยวกับต้นทุนทางสิ่งแวดล้อมด้วย หากกฎระเบียบกำหนดให้มีการทดสอบและฝึกฝนโมเดลใหม่ตลอดเวลาเพื่อให้เป็นไปตามมาตรฐานใหม่ การใช้พลังงานของศูนย์ข้อมูลเหล่านี้จะเพิ่มขึ้นเร็วยิ่งขึ้น เราเต็มใจที่จะยอมรับการแลกเปลี่ยนนั้นหรือไม่?

คำถามที่ยากอีกข้อคือคำจำกัดความของ “ความจริง” ผู้คุมกฎต้องการให้ AI “แม่นยำ” แต่ใครเป็นคนตัดสินว่าอะไรคือความแม่นยำในบริบททางการเมืองหรือสังคม? หากรัฐบาลสามารถปรับบริษัทสำหรับคำตอบของ AI ที่ “ไม่ถูกต้อง” รัฐบาลนั้นก็จะมีเครื่องมือสำหรับการเซ็นเซอร์โดยพื้นฐาน นี่เป็นข้อกังวลหลักในประเทศที่มีประวัติด้านสิทธิมนุษยชนไม่ค่อยดีนัก วงการกังวลว่า “ความปลอดภัย” จะกลายเป็นคำรหัสสำหรับ “เนื้อหาที่รัฐอนุมัติ” เรายังเห็นความพยายามในการ “ใส่ลายน้ำ” (watermarking) ให้กับเนื้อหา AI แม้ว่าฟังดูดีสำหรับการหยุด Deepfakes แต่ในทางเทคนิคแล้วทำได้ยาก ผู้ใช้ที่ฉลาดมักจะสามารถลบลายน้ำออกได้ หากเราพึ่งพาเทคโนโลยีที่สามารถเลี่ยงได้ง่าย เรากำลังสร้างความรู้สึกปลอดภัยที่จอมปลอมหรือไม่? ต้นทุนแฝงของกฎระเบียบเหล่านี้มักถูกฝังอยู่ในรายละเอียดเล็กๆ น้อยๆ

สำหรับผู้ใช้ระดับสูงและนักพัฒนา ด้านที่ดูเป็น Geek ของกฎระเบียบพบได้ในข้อกำหนดทางเทคนิคสำหรับการรายงานโมเดล เรากำลังเห็นการเกิดขึ้นของ model cards ซึ่งเป็นเอกสารมาตรฐานที่ระบุข้อมูลการฝึกฝน เกณฑ์มาตรฐานประสิทธิภาพ และข้อจำกัดที่ทราบของโมเดล สิ่งเหล่านี้กำลังกลายเป็นเรื่องปกติเหมือนไฟล์ “readme” ใน GitHub repositories นักพัฒนายังต้องสร้าง “Transparency APIs” ที่อนุญาตให้นักวิจัยภายนอกตรวจสอบระบบของตนโดยไม่ต้องเห็นโค้ดเบื้องหลัง นี่เป็นความท้าทายทางวิศวกรรมที่ซับซ้อน คุณจะให้สิทธิ์เข้าถึงแก่ใครบางคนเพื่อตรวจสอบความปลอดภัยของโมเดลโดยไม่เปิดเผยทรัพย์สินทางปัญญาของคุณได้อย่างไร? วงการกำลังถกเถียงกันถึงมาตรฐานสำหรับ API เหล่านี้และขอบเขตของสิ่งที่ควรแบ่งปัน

การจัดเก็บข้อมูลในเครื่องและ “Edge AI” กำลังได้รับความนิยมมากขึ้นเพื่อหลีกเลี่ยงอุปสรรคทางกฎระเบียบ หากการประมวลผล AI เกิดขึ้นบนโทรศัพท์ของผู้ใช้แทนที่จะเป็นบน cloud ก็จะง่ายกว่าที่จะปฏิบัติตามกฎหมายความเป็นส่วนตัวของข้อมูลที่เข้มงวด อย่างไรก็ตาม สิ่งนี้จำกัดพลังของ AI นักพัฒนากำลังสร้างสมดุลระหว่างความต้องการพลังประมวลผล cloud มหาศาลกับความปลอดภัยทางกฎหมายของการประมวลผลในเครื่อง นอกจากนี้เรายังเห็นการนำ “kill switches” มาใช้ในโค้ด AI ซึ่งเป็นโปรโตคอลที่สามารถปิดโมเดลได้หากเริ่มแสดง “พฤติกรรมที่เกิดขึ้นเอง” (emergent behaviors) ที่ไม่ได้คาดการณ์ไว้ระหว่างการทดสอบ นี่ไม่ใช่เรื่องนิยายวิทยาศาสตร์อีกต่อไป แต่เป็นข้อกำหนดสำหรับระบบความเสี่ยงสูง การปฏิบัติตามกฎระเบียบกำลังถูกฝังลงไปในสถาปัตยกรรมซอฟต์แวร์โดยตรง ตั้งแต่โครงสร้างฐานข้อมูลไปจนถึงขีดจำกัดของ API

สรุปคือวงการ AI กำลังเติบโตเต็มที่ การเปลี่ยนผ่านจากความอยากรู้อยากเห็นในงานวิจัยไปสู่สาธารณูปโภคที่มีการกำกับดูแลนั้นเจ็บปวดและมีราคาแพง บริษัทที่เพิกเฉยต่อการเปลี่ยนแปลงทางกฎหมายจะไม่สามารถอยู่รอดได้ในอีก 5 ปีข้างหน้า จุดเน้นได้เปลี่ยนจาก “เราสร้างมันได้ไหม” เป็น “เราควรสร้างมันไหม” และ “เราจะบันทึกข้อมูลอย่างไร” การเปลี่ยนแปลงนี้อาจทำให้ความเร็วของนวัตกรรมช้าลงในระยะสั้น แต่อาจนำไปสู่เทคโนโลยีที่มั่นคงและน่าเชื่อถือมากขึ้นในระยะยาว กฎเกณฑ์ยังคงถูกเขียนขึ้น และคดีความยังคงอยู่ในระหว่างการตัดสิน สิ่งที่ชัดเจนคือ “ยุคคาวบอย” ได้หมดไปแล้ว อนาคตของ AI จะถูกกำหนดโดยนักกฎหมายและผู้ร่างกฎหมายพอๆ กับวิศวกรและนักวิทยาศาสตร์ข้อมูล วงการกำลังกังวล แต่ก็กำลังปรับตัวเข้ากับความเป็นจริงใหม่ของโลกที่มีการกำกับดูแล

หมายเหตุจากบรรณาธิการ: เราสร้างเว็บไซต์นี้ขึ้นมาเพื่อเป็นศูนย์กลางข่าวสารและคู่มือ AI หลายภาษาสำหรับผู้ที่ไม่ได้เป็นผู้เชี่ยวชาญคอมพิวเตอร์ แต่ยังคงต้องการทำความเข้าใจปัญญาประดิษฐ์ ใช้งานได้อย่างมั่นใจมากขึ้น และติดตามอนาคตที่กำลังจะมาถึงแล้ว

พบข้อผิดพลาดหรือสิ่งใดที่ต้องแก้ไขหรือไม่? แจ้งให้เราทราบ