เครื่องมือ AI ล่าสุดของ Microsoft อย่าง Recall สำหรับคอมพิวเตอร์ Windows ได้จุดประกายความกังวลเกี่ยวกับการใช้งานในทางที่ผิดที่อาจเกิดขึ้น ต่างจากการค้นหาคำสำคัญแบบเดิมๆ Recall ทำหน้าที่เป็น “ไทม์แมชชีน” ส่วนตัว โดยบันทึกภาพหน้าจอของทุกสิ่งบนหน้าจอของผู้ใช้ และทำให้สามารถค้นหาได้โดยใช้ AI คุณสมบัตินี้ช่วยให้ผู้ใช้สามารถเรียกดูเนื้อหาที่ผ่านมา เช่น เอกสาร รูปภาพ และเว็บไซต์ได้อย่างรวดเร็ว ตัวอย่างเช่น หากก่อนหน้านี้ผู้ใช้ค้นหาชุดสีเขียวหรือร้านไอศกรีมในพื้นที่ พวกเขาสามารถขอให้ Recall ดึงข้อมูลที่แสดงบนหน้าจอในขณะนั้นได้
การค้นหาความหมายแสดงถึงความก้าวหน้าที่สำคัญใน AI แต่การเปิดตัวนี้เกิดขึ้นพร้อมกับช่วงเวลาของความก้าวหน้าทางเทคโนโลยีอย่างรวดเร็ว ซึ่งการใช้งานอย่างรับผิดชอบยังคงถูกควบคุมโดยหน่วยงานกำกับดูแล บริษัท และผู้บริโภค Jen Golbeck ศาสตราจารย์ด้าน AI ที่เน้นความเป็นส่วนตัวที่มหาวิทยาลัยแมรีแลนด์ แสดงความกังวลว่าคุณลักษณะ Recall อาจกลายเป็นเรื่องไม่ดีที่อาจเกิดขึ้นได้หากอุปกรณ์ถูกบุกรุก สำนักงานกรรมาธิการข้อมูลของสหราชอาณาจักร Information Commissioner’s Office (ICO) ซึ่งเป็นหน่วยงานกำกับดูแลอิสระสำหรับการปกป้องข้อมูล แจ้ง CNN ว่ากำลังตรวจสอบการป้องกันความเป็นส่วนตัวของเครื่องมือนี้ Microsoft ยังไม่ได้แสดงความคิดเห็นในเรื่องนี้ CEO Satya Nadella เน้นย้ำในการให้สัมภาษณ์กับ The Wall Street Journal ว่าการค้นหาเว็บควรทำบนเบราว์เซอร์ Edge ของ Microsoft เท่านั้น และให้ความมั่นใจว่าภาพหน้าจอจะยังคงอยู่ในคอมพิวเตอร์ของผู้ใช้ Geoff Blaber ซีอีโอของ CCS Insight ซึ่งเป็นบริษัทวิจัยตลาด ตั้งข้อสังเกตว่าแนวทางนี้ช่วยลดความกังวลได้ ผู้ใช้มีตัวเลือกในการเปิดใช้งานคุณสมบัติระหว่างการตั้งค่าอุปกรณ์ และสามารถปรับแต่งและขึ้นบัญชีดำว่าแอปและเว็บไซต์ใดบ้างที่ Recall สามารถเข้าถึงได้
อย่างไรก็ตาม Golbeck เน้นย้ำถึงสถานการณ์ที่มาตรการป้องกันนี้อาจไม่เพียงพอ เช่น สำหรับนักข่าวในสภาพแวดล้อมที่ไม่เป็นมิตร บุคคลที่พยายามหลบหนีความสัมพันธ์ที่ไม่เหมาะสม ผู้ที่ค้นหาข้อมูลทางการแพทย์ที่ละเอียดอ่อน หรือพนักงานภายใต้การดูแลของนายจ้าง เธอคาดหวังว่าผลกระทบของเครื่องมือนี้จะเด่นชัดที่สุดในที่ทำงาน Golbeck ยืนยันว่าเทคโนโลยีแม้จะมีประโยชน์ แต่ก็มักจะได้รับการพัฒนาโดยไม่คำนึงถึงการใช้งานที่อาจเป็นอันตราย ข้อกังวลที่คล้ายกันเคยเกิดขึ้นในอดีตเกี่ยวกับคุณสมบัติต่างๆ เช่น รหัสผ่านไบโอเมตริกซ์ (Biometrics) การตรวจพิสูจน์บุคคล เช่น ลายนิ้วมือ การจดจำใบหน้า และการสแกนม่านตา Blaber แนะนำว่าเพื่อจัดการกับความกังวลเบื้องต้น Microsoft และพันธมิตรต้องแสดงให้เห็นถึงคุณค่า ความปลอดภัย และความเป็นส่วนตัวของผลิตภัณฑ์ในสถานการณ์จริง อย่างไรก็ตาม Michela Menting ผู้อำนวยการฝ่ายวิจัยอาวุโสของ ABI Research มองว่าคุณลักษณะนี้เป็นการ “ถอยหลัง” เพื่อความเป็นส่วนตัว
Privacy experts raise concerns about Microsoft’s newest AI tool.
Microsoft’s latest AI tool, Recall for Windows computers, has sparked concerns about potential misuse. Unlike traditional keyword searches, Recall acts as a personal “time machine,” saving screenshots of everything on the user’s screen and making it searchable using AI. This feature allows users to quickly retrieve past content, like documents, images, and websites. For instance, if a user previously searched for a green dress or a local ice cream shop, they can ask Recall to retrieve anything displayed on their screen at that time.
Semantic search represents a significant advancement in AI, but its introduction coincides with a period of rapid technological progress where responsible use is still being navigated by regulators, companies, and consumers. Jen Golbeck, a privacy-focused AI professor at the University of Maryland, expressed concerns that the recall feature could become a potential “nightmare” if the device is compromised. The UK’s Information Commissioner’s Office (ICO), an independent regulator for data protection, informed CNN that it is investigating the tool’s privacy safeguards. Microsoft has not yet commented on the matter. CEO Satya Nadella emphasised in an interview with The Wall Street Journal that web searches should be conducted exclusively on Microsoft’s Edge browser and reassured that screenshots remain on the user’s computer. Geoff Blaber, CEO of CCS Insight, a market research firm, noted that this approach mitigates concerns. Users have the option to activate the feature during device setup and can customise and blacklist which apps and websites Recall can access.
However, Golbeck highlighted scenarios where this safeguard might prove insufficient, such as for journalists in hostile environments, individuals seeking to escape abusive relationships, those searching for sensitive medical information, or employees under surveillance by their employers. She anticipates that the tool’s implications will be most pronounced in the workplace. Golbeck contends that technology, while beneficial, is often developed without considering potential malicious uses. Similar concerns have arisen in the past with features like biometric passwords, such as fingerprints, facial recognition, and iris scans. Blaber suggested that to address initial apprehensions, Microsoft and its partners must demonstrate the product’s value, security, and privacy in real-world scenarios. However, Michela Menting, a senior research director at ABI Research, views the feature as a “step backwards” for privacy.
By CNN NEWS
