ปัญญาประดิษฐ์ (AI) มีศักยภาพมหาศาลในการเพิ่มประสิทธิภาพธุรกิจ อย่างไรก็ตาม ยังมีข้อกังวลทางกฎหมายเกี่ยวกับการใช้งานโดยไม่ได้รับอนุญาต รวมถึงความเสี่ยงในการสูญหายของข้อมูลและผลทางกฎหมาย ในบทความนี้ เราจะสำรวจความเสี่ยงที่เกี่ยวข้องกับการใช้ AI และหารือเกี่ยวกับมาตรการเพื่อลดความเสียหาย นอกจากนี้ เราจะตรวจสอบความคิดริเริ่มด้านกฎระเบียบของประเทศต่างๆ และกรอบจริยธรรมที่บริษัทต่างๆ นำมาใช้เพื่อควบคุม AI

 

ความเสี่ยงด้านความปลอดภัย 

การโจมตีด้วยฟิชชิงของ AI

อาชญากรไซเบอร์สามารถใช้ประโยชน์จาก AI ได้หลายวิธีเพื่อปรับปรุงการโจมตีแบบฟิชชิงและเพิ่มโอกาสในการประสบความสำเร็จ ต่อไปนี้เป็นบางวิธีที่ AI สามารถใช้ประโยชน์จากฟิชชิงได้:

 

• แคมเปญฟิชชิ่งอัตโนมัติ: เครื่องมือที่ขับเคลื่อนด้วย AI สามารถสร้างและเผยแพร่อีเมลฟิชชิงโดยอัตโนมัติในจำนวนมาก เครื่องมือเหล่านี้สามารถสร้างเนื้อหาอีเมลที่น่าเชื่อถือ สร้างข้อความส่วนตัว และเลียนแบบสไตล์การเขียนของบุคคลใดบุคคลหนึ่ง ทำให้ความพยายามในการฟิชชิ่งถูกต้องตามกฎหมายมากขึ้น
• Spear Phishing ด้วยเทคนิค Social Engineering: AI สามารถวิเคราะห์ข้อมูลจำนวนมหาศาลจากสื่อสังคมออนไลน์ เครือข่ายมืออาชีพ หรือแหล่งข้อมูลอื่นๆ เพื่อรวบรวมข้อมูลเกี่ยวกับเป้าหมายที่เป็นไปได้ ข้อมูลนี้สามารถใช้เพื่อปรับแต่งอีเมลฟิชชิ่ง ทำให้มันเป็นการส่งอีเมลที่ได้รับการปรับแต่งอย่างละเอียด และยากต่อการแยกแยะจากการสื่อสารที่ถูกต้องจริงๆ
• การโจมตีด้วย Natural Language Processing (NLP): อัลกอริธึม NLP ที่ขับเคลื่อนด้วย AI สามารถวิเคราะห์และทำความเข้าใจข้อความ ทำให้อาชญากรไซเบอร์สามารถสร้างอีเมลฟิชชิ่งที่มีความเกี่ยวข้องทางบริบทและตรวจจับได้ยากขึ้นด้วยตัวกรองอีเมลแบบดั้งเดิม การโจมตีที่ซับซ้อนเหล่านี้อาจข้ามมาตรการรักษาความปลอดภัยที่ออกแบบมาเพื่อตรวจจับความพยายามในการโจมตีฟิชชิ่ง

 

เพื่อลดความเสี่ยงที่เกี่ยวข้องกับการโจมตีแบบฟิชชิ่งที่เสริมด้วย AI องค์กรต่างๆ ควรใช้มาตรการรักษาความปลอดภัยที่เข้มงวด ซึ่งรวมถึงการฝึกอบรมพนักงานเพื่อรับรู้ถึงความพยายามในการฟิชชิ่ง การปรับใช้การตรวจสอบสิทธิ์แบบหลายปัจจัย และการใช้ประโยชน์จากโซลูชันที่ใช้ AI เพื่อตรวจจับและป้องกันจากเทคนิคฟิชชิงที่พัฒนาขึ้นเรื่อยๆ การใช้การกรอง DNS เป็นการป้องกันชั้นแรกจะช่วยเพิ่มความปลอดภัยได้อีกขั้น

กฎระเบียบและความเสี่ยงทางกฎหมาย 

ด้วยการพัฒนาอย่างรวดเร็วของ AI กฎหมายและข้อบังคับที่เกี่ยวข้องกับเทคโนโลยีจึงยังคงอยู่ในระหว่างพัฒนา กฎระเบียบและความเสี่ยงทางกฎหมายที่เกี่ยวข้องกับ AI หมายถึงความรับผิดชอบที่อาจเกิดขึ้นและผลทางกฎหมายที่ธุรกิจอาจต้องเผชิญเมื่อนำเทคโนโลยี AI ไปใช้

 

• เมื่อ AI แพร่หลายมากขึ้น รัฐบาลและหน่วยงานกำกับดูแลก็เริ่มสร้างกฎหมายและข้อบังคับที่ควบคุมการใช้เทคโนโลยี การไม่ปฏิบัติตามกฎหมายและข้อบังคับเหล่านี้อาจส่งผลให้เกิดการลงโทษทางกฎหมายและทางการเงิน
• ความรับผิดต่ออันตรายที่เกิดจากระบบ AI: ธุรกิจอาจต้องรับผิดชอบต่ออันตรายที่เกิดจากระบบ AI ของตน ตัวอย่างเช่น หากระบบ AI ทำผิดพลาดซึ่งส่งผลให้เกิดการสูญเสียทางการเงินหรือเป็นอันตรายต่อบุคคล ธุรกิจอาจต้องรับผิด
• ข้อพิพาทด้านทรัพย์สินทางปัญญา: ธุรกิจอาจเผชิญกับข้อพิพาททางกฎหมายที่เกี่ยวข้องกับทรัพย์สินทางปัญญาเมื่อพัฒนาและใช้งานระบบ AI ตัวอย่างเช่น ข้อพิพาทอาจเกิดขึ้นเกี่ยวกับความเป็นเจ้าของข้อมูลที่ใช้ในการฝึกระบบ AI หรือความเป็นเจ้าของระบบ AI เอง

 

ประเทศและบริษัทที่จำกัดการใช้งาน AI

มาตรการกำกับดูแล:

หลายประเทศกำลังดำเนินการหรือเสนอกฎระเบียบเพื่อจัดการกับความเสี่ยงของ AI โดยมีเป้าหมายเพื่อปกป้องความเป็นส่วนตัว รับรองความโปร่งใสของอัลกอริทึม และกำหนดหลักเกณฑ์ทางจริยธรรม

ตัวอย่าง: กฎระเบียบให้ความคุ้มครองข้อมูลส่วนบุคคลของผู้บริโภค (GDPR) ของสหภาพยุโรปกำหนดหลักการสำหรับการใช้ข้อมูลอย่างรับผิดชอบของระบบ AI ในขณะที่พระราชบัญญัติ AI ที่เสนอพยายามที่จะกำหนดกฎที่ครอบคลุมสำหรับแอปพลิเคชัน AI

 

จีนได้ออกกฎระเบียบเฉพาะด้าน AI โดยเน้นไปที่ความปลอดภัยของข้อมูลและความรับผิดชอบของอัลกอริทึม ขณะที่สหรัฐฯ กำลังหารือเกี่ยวกับการกำกับดูแล AI อย่างต่อเนื่อง

 

ความคิดริเริ่มขององค์กร:

หลายบริษัทใช้มาตรการเชิงรุกเพื่อควบคุมการใช้ AI อย่างมีความรับผิดชอบและมีจริยธรรม โดยมักผ่านข้อจำกัดและกรอบจริยธรรมที่ตนเองกำหนด

ตัวอย่าง: หลักการ AI ของ Google เน้นการหลีกเลี่ยงอคติ ความโปร่งใส และความรับผิดชอบ Microsoft ได้จัดตั้งคณะกรรมการ AI และจริยธรรมด้านวิศวกรรมและการวิจัย (AETHER) เพื่อเป็นแนวทางในการพัฒนา AI อย่างมีความรับผิดชอบ IBM ได้พัฒนาชุดเครื่องมือ AI Fairness 360 เพื่อจัดการกับอคติและความเป็นธรรมในโมเดล AI

 

สรุป

เราแนะนำอย่างยิ่งให้ใช้ระบบป้องกันที่ครอบคลุมและปรึกษาฝ่ายกฎหมายเกี่ยวกับความเสี่ยงที่เกี่ยวข้องเมื่อใช้ AI หากความเสี่ยงของการใช้ AI มีมากกว่าประโยชน์ และแนวทางการปฏิบัติตามข้อบังคับของบริษัทของคุณไม่แนะนำให้ใช้บริการ AI บางอย่างในกระบวนการทำงานของคุณ คุณสามารถบล็อกได้โดยใช้บริการกรอง DNS จาก SafeDNS เมื่อทำเช่นนี้ คุณสามารถลดความเสี่ยงของการสูญเสียของข้อมูล รักษาการปฏิบัติตามกฎหมาย และปฏิบัติตามข้อกำหนดภายในของบริษัท

ที่มา: thehackernews.com