หัวหน้าทีมนักวิทยาศาสตร์จากโอเพนเอไอ (OpenAI) เตือนยังไม่มีใครพร้อมรับมือผลกระทบที่จะตามมาของเอไอ

ยาคุบ ปาโชคี หัวหน้านักวิทยาศาสตร์ของ โอเพนเอไอ (OpenAI) เตือนให้ผู้คน "ระมัดระวังอย่างสูงสุด" ต่อความก้าวหน้าที่รวดเร็วเกินควบคุมของปัญญาประดิษฐ์ หรือ เอไอ (AI) และเตือนว่าอาจจำเป็นต้องมีการแทรกแซงเพิ่มเติมเพื่อให้แน่ใจว่า "มนุษย์จะยังคงเป็นผู้ควบคุมอนาคตอยู่"

"ผมกังวลว่าไม่มีใครพร้อมรับมือกับผลกระทบจากการเติบโตอย่างรวดเร็วอย่างต่อเนื่องของความฉลาดของเครื่องจักร" เขาเขียนไว้ในบล็อกโพสต์ที่มีชื่อว่า "จิตใจของเอเลี่ยน" (An Alien Mind)

เขาโพสต์ข้อความดังกล่าวเพียงไม่กี่วันหลังจากที่ผู้สร้างแชทจีพีที (ChatGPT) เปิดตัวเอไอโมเดลล่าสุดอย่าง จีพีที-6 แอสตรา (GPT-6 Astra) ซึ่งบริษัทระบุว่าเป็นผลิตภัณฑ์ที่มีทรงพลังที่สุดเท่าที่เคยมีมา

ขณะที่ โอเพนเอไอและบริษัทเอไออื่น ๆ เช่น แอนโทรปิก (Anthropic) ได้เผยแพร่รายงานเกี่ยวกับเอไอเอเจนต์ (AI agent) ของตนที่แสดงพฤติกรรมทำงานอัตโนมัตินอกเหนือคำสั่งและทำการโจมตีทางไซเบอร์ในโลกความเป็นจริงต่อหลายบริษัท

เมื่อเดือน ก.ค. โอเพนเอไอเคยเรียกเหตุการณ์ที่เอไปเอเจนต์ของตน ซึ่งเป็นระบบเอไอที่สามารถทำงานได้เองหลังจากได้รับคำสั่งจากมนุษย์ทำการแฮ็ก บริษัทฮักกิงเฟซ (Hugging Face) แพลตฟอร์มเทคโนโลยี ว่าเป็นเรื่องที่ "ไม่เคยเกิดขึ้นมาก่อน"

ขณะที่ ในเดือน ก.ย. ก็มีรายงานที่อ้างว่าหลายเดือนก่อนหน้านี้ เอไอเอเจนต์ของบริษัทได้ทำการเข้ายึดเว็บไซต์ของเยอรมนีเว็บหนึ่งเช่นกัน

"เรากำลังเผชิญกับการเปลี่ยนผ่านสู่โลกที่มีเครื่องจักรอัจฉริยะเหลือเชื่อ และเราจำเป็นต้องมั่นใจว่าการเปลี่ยนผ่านนั้นจะดำเนินไปด้วยดีสำหรับมนุษยชาติ" ปาโชคีเขียนบนบล็อกโพสต์ล่าสุด

เขาระบุด้วยว่า โอเพนเอไอจะยังคง "สร้างระบบป้องกัน" และแสวงหาทางออกทางเทคนิคในเรื่องการจัดแนวทางการทำงานของเอไอ ซึ่งเป็นคำที่ใช้เรียกกระบวนการที่ทำให้มั่นใจว่าการกระทำและเป้าหมายของเครื่องจักรตรงกับความตั้งใจของมนุษย์และมาตรการป้องกันด้านความปลอดภัย (safety guardrails) อย่างสมบูรณ์แบบ

เขาเสริมว่าสิ่งหนึ่งที่บริษัทให้ความสำคัญเป็นอันดับต้น ๆ ในการก้าวไปข้างหน้าคือการสร้าง "นักวิจัยเอไออัตโนมัติ" เพื่อให้ก้าวทันความคืบหน้าของเอไอ พร้อมทั้งหาวิธีการที่ให้นักวิจัยที่เป็นมนุษย์สามารถมีส่วนร่วมในกระบวนการดังกล่าวต่อไป

"แทนที่จะทำมาตรการป้องกันเอไอ หรือ "การ์ดเรลส์" กฎระเบียบ หรือการรับประกัน ที่ดีขึ้นเพื่อรักษาความปลอดภัยของผู้คน กลับเสนอให้พัฒนาเอไอเอเจนต์ภายในเพื่อวิจัยปัญหาเหล่านี้แทน" ศาสตราจารย์ จีนา เนฟฟ์ หัวหน้าศูนย์มินเดอรูเพื่อเทคโนโลยีและประชาธิปไตย (Minderoo Centre for Technology and Democracy) แห่งมหาวิทยาลัยเคมบริดจ์ กล่าว

"คำตอบเช่นนี้ยังไม่ดีพอแน่นอน สำหรับความกังวลที่เพิ่มขึ้นเกี่ยวกับการที่โมเดลของโอเพนเอไอกำลังสร้างปัญหาทั้งด้านความปลอดภัยทางไซเบอร์ การสูญเสียงาน ความผิดพลาด และการฉ้อโกง" เธอกล่าวเสริมว่า

นาธาน คัลวิน ที่ปรึกษาทั่วไปของเอนโค้ด เอไอ (Encode AI) กลุ่มรณรงค์เพื่อสิทธิมนุษยชน ความรับผิดชอบ ความปลอดภัย และความยุติธรรมในด้านปัญญาประดิษฐ์ กล่าวว่า เขาเห็นด้วยกับปาโชคีเกี่ยวกับอันตรายที่มีอยู่ในการพัฒนาโมเดลเอไอขั้นสูง แต่เขากล่าวว่าโอเพนเอไอ ไม่เต็มใจที่จะแสดงความโปร่งใส ซึ่งหมายความว่าคำเตือนเหล่านี้เสี่ยงที่จะถูกมองข้ามว่าเป็น "แค่การสร้างกระแสเพื่อผลประโยชน์ส่วนตนเท่านั้น"

"หากยาคุบและคนอื่น ๆ ในโอเพนเอไอ ต้องการให้ผู้เกี่ยวข้องในอุตสาหกรรมเอไอร่วมมือกับพวกเขาเพื่อให้ทุกอย่างดำเนินไปด้วยดี หนึ่งในสิ่งที่สำคัญที่สุดที่พวกเขาสามารถทำได้คือการแบ่งปันข้อมูลให้มากขึ้นเกี่ยวกับสิ่งที่พวกเขาพบเห็น ซึ่งทำให้พวกเขาต้องออกมาเรียกร้องให้ใช้ความระมัดระวัง" เขาเขียนข้อความไว้บนแพลตฟอร์มเอ็กซ์

มีมาตรการควบคุมและป้องกันความเสี่ยง (Guardrails) สำหรับ AI อย่างไรบ้าง?

กฎระเบียบระดับโลกกำลังประสบปัญหาในการตามให้ทันอัตราความก้าวหน้าของการพัฒนาเอไอ

กฎหมายเอไอของสหภาพยุโรปมีผลบังคับใช้เมื่อวันที่ 2 ส.ค. ซึ่งกำหนดให้ยักษ์ใหญ่ด้านเอไออย่างโอเพนเอไอ ต้องพิสูจน์ว่าโมเดลที่มีทรงพลังที่สุดของตนไม่สามารถเปิดฉากการโจมตีทางไซเบอร์โดยอัตโนมัติหรือหลบเลี่ยงการควบคุมของมนุษย์ได้ ก่อนที่จะได้รับอนุญาตให้นำออกวางจำหน่ายในยุโรป

แต่เนื่องจากเขตอำนาจศาลของกฎหมายจำกัดอยู่แค่ในยุโรป นั่นจึงไม่สามารถหยุดยั้งเอไอที่พัฒนาขึ้นจากที่อื่นไม่ให้มาคุกคามทวีปนี้ได้

ในบล็อกโพสต์ของเขา ปาโชคียังได้เรียกร้องให้มีเกณฑ์มาตรฐานด้านความปลอดภัยขั้นต่ำที่กฎหมายหรือนานาชาติต้องกำหนด ซึ่งสามารถบังคับใช้โดย "เครือข่ายผู้ตรวจสอบบัญชีบุคคลที่สาม" หรือ "หน่วยงานรัฐบาล"

เขากล่าวว่า ห้องปฏิบัติการเอไอจำเป็นต้องบรรลุเกณฑ์มาตรฐานเหล่านี้ ก่อนที่จะได้รับอนุญาตให้ขยายขนาดธุรกิจหรือปรับใช้โมเดลขั้นสูงต่อไปได้

เขาระบุต่อไปว่าตนเองหวังว่า "การชะลอตัวโดยสมัครใจ" ซึ่งเป็นการหยุดชั่วคราวในการพัฒนาเอไอที่บริษัทตั้งใจเอง จะกลายเป็นเรื่องปกติจนกว่าจะมีการสร้างมาตรการป้องกันร่วมกัน

ในเดือน ส.ค. โอเพนเอไอระบุว่าบริษัทได้ชะลอการฝึกโมเดลเอไอที่มีความก้าวหน้ามากที่สุดบางรุ่นเพื่อปรับปรุงเรื่องความปลอดภัย