我們還能再相信我們的眼睛嗎？Apple 新 AI 清理工具的陰暗面

您可能已經看過 Apple 宣傳其新清理功能可用于刪除照片中的元素。當其中一個廣告在本周末引起我的注意時，我很感興趣并更新了我的軟件來試用它。

該功能自 12 月以來已在澳大利亞為具有某些硬件和軟件功能.它還適用于新西蘭、加拿大、愛爾蘭、南非、英國和美國的客戶。

該工具使用生成式人工智能（AI） 來分析場景并建議可能分散注意力的元素。您可以在下面的屏幕截圖中看到突出顯示的內容。

然后，您可以點按建議的元素以將其刪除，或點按圓圈元素以將其刪除。然后，該設備使用生成式 AI 嘗試根據周圍區域創建合乎邏輯的替代品。

更簡單的欺騙方法

智能手機照片編輯應用程序已經存在了十多年，但現在，您無需下載、付費或學習使用新的第三方應用程序。如果您有符合條件的設備，則可以直接在智能手機的默認照片應用程序中使用這些功能。

Apple 的 Clean Up 加入了各種科技公司已經提供的許多類似工具。那些使用 Android 手機的人可能已經使用了 Google 的Magic 編輯器.這允許用戶使用 AI 移動、調整大小、重新著色或刪除對象。具有 select 的用戶Samsung 設備可以使用他們的內置照片庫應用程序刪除照片中的元素。

總是有方法——模擬和最近的數字——可以欺騙。但是，以免費、易于使用的方式將它們集成到現有軟件中，使這些可能性變得更加容易。

完全使用 AI 編輯照片或創建新圖像引發了有關照片和視頻可信度的緊迫問題。我們依賴這些設備產生的視覺，從警察身體和交通攝像頭到保險索賠和驗證包裹的安全遞送。

如果科技的進步正在侵蝕我們對圖片甚至視頻的信任，我們就必須重新思考相信自己的眼睛意味著什么。

如何使用這些工具？

刪除分散注意力或不需要的元素的想法可能很有吸引力。如果您曾經去過擁擠的旅游熱點，那么移除一些其他游客以便您可以更多地關注環境可能會很有吸引力（下圖前后）。

但是，除了消除干擾之外，這些工具還可以如何使用呢？

有些人用它們來去除水印。水印通常是由攝影師或公司添加的，目的是保護他們的作品免受未經授權的使用。刪除這些會使未經授權的使用不那么明顯，但不會降低合法性。

其他人則使用它們來更改證據。例如，賣家可能會編輯受損商品的照片，以聲稱該商品在發貨前狀況良好。

隨著圖像編輯和生成工具變得越來越普遍和易于使用，用途列表氣球。其中一些用途可能令人討厭。

AI 生成器現在可以使收益例如。然后，人們可以嘗試將這些提交給他們的雇主，以獲得實際未發生的費用的報銷。

我們所看到的任何東西都可以再被信任嗎？

考慮到這些發展，擁有某物的“視覺證據”意味著什么？

如果您認為照片可能被編輯過，那么放大有時會顯示 AI 堵塞的異常情況。以下是 Clean Up （清理） 功能生成的新內容與舊內容不完全匹配的一些區域的放大版本。

通常，處理一張圖像比以相同方式令人信服地編輯同一場景的多張圖像更容易。因此，要求查看從不同角度顯示同一場景的多個 outtakes 可能是一種有用的驗證策略。

親眼看到東西可能是最好的方法，盡管這并不總是可能的。

做一些額外的研究也可能有所幫助。例如，在假收據的情況下，餐廳是否存在？它在收據上顯示的日期營業嗎？菜單上是否提供據稱出售的菜品？稅率是否與當地稅率相符？

上述手動驗證方法顯然需要時間。隨著 AI 編輯和生成風險的增加，可以自動執行這些平凡任務的值得信賴的系統可能會越來越受歡迎。

同樣，還有一個監管機構應發揮的作用確保人們不會濫用 AI 技術。在歐盟，Apple 推出其 Apple Intelligence 功能（包括清理功能）的計劃因”監管不確定性".

人工智能可以用來讓我們的生活更輕松。像任何技術一樣，它可以用于好事或壞事。了解它的能力并發展您的視覺和媒體素養對于成為我們數字世界中知情的成員至關重要。

T.J. 湯姆森，視覺傳播與數字媒體高級講師，皇家墨爾本理工大學

本文轉載自對話根據 Creative Commons 許可。閱讀原創文章.

寶寶起名 起名