Meta błędnie oznacza prawdziwe obrazy jako „wykonane przez sztuczną inteligencję”

W ciągu ostatnich kilku miesięcy kilku fotografów udostępniało przykłady, a Mita niedawno oznaczyła zdjęcie Były fotograf Białego Domu, Pete Souza, uchwycił mecz koszykówki Tworzy je także sztuczna inteligencja. W innym niedawnym przykładzie Meta niepoprawnie dodała etykietę Do zdjęcia na Instagramie Zespół Kolkata Knight Riders, zwycięzcy indyjskiej Premier Cricket League. Co ciekawe, podobnie jak w przypadku zdjęcia Souzy, ocena pojawia się tylko podczas przeglądania zdjęć na urządzeniu mobilnym, a nie w Internecie.

Souza twierdzi, że próbował odznaczyć naklejkę, ale nie mógł. Prawdopodobnie użycie narzędzia do przycinania Adobe i spłaszczenie obrazów przed zapisaniem ich jako obrazy JPEG może uruchomić algorytm Meta.

Jednak Meta również błędnie oznaczyła prawdziwe obrazy jako sztuczną inteligencję, gdy fotografowie używają generatywnych narzędzi sztucznej inteligencji, takich jak Adobe Geneativefill, do usuwania nawet najmniejszych obiektów. Petapiksel Raporty. W publikacji przetestowano to samo, używając narzędzia do wypełniania generatywnego programu Photoshop w celu usunięcia plamki ze zdjęcia, które Meta następnie oznaczyła na Instagramie jako wygenerowane przez sztuczną inteligencję. Ale to dziwne, że Meta nie dodała wtedy tagu „Made with AI”. Petapiksel Przesłałem plik z powrotem do Photoshopa, a następnie zapisałem go po skopiowaniu i wklejeniu do czarnego dokumentu.

Wielu fotografów wyraziło frustrację, że takie drobne zmiany są niesprawiedliwie oznaczane jako generowane przez sztuczną inteligencję.

„Jeśli «zmienione» zdjęcia są «wykonane przez sztuczną inteligencję», wówczas termin ten praktycznie nie ma żadnego znaczenia” – fotograf Noah Kalina Książki tematyczne. „Mogą również automatycznie oznaczać każde zdjęcie jako „nie odzwierciedlające rzeczywistości”, jeśli poważnie podchodzą do ochrony ludzi”.

W oświadczeniu do krawędźKate McLaughlin, rzeczniczka Meta, powiedziała, że ​​firma jest świadoma problemu i ocenia swoje podejście, „tak aby… [its] Etykiety odzwierciedlają ilość sztucznej inteligencji użytej w obrazie.

„Opieramy się na standardowych wskaźnikach branżowych, które inne firmy włączają do treści swoich narzędzi, dlatego aktywnie współpracujemy z tymi firmami, aby ulepszyć proces, tak aby nasze podejście do etykietowania było zgodne z naszym celem” – dodał McLaughlin.

W lutym Meta ogłosiła, że ​​zacznie dodawać naklejki „Made with AI” do zdjęć przesyłanych na Facebooku, Instagramie i w Threads przed tegorocznym sezonem wyborczym. W szczególności firma oświadczyła, że ​​doda etykietę do obrazów generowanych przez sztuczną inteligencję utworzonych przy użyciu narzędzi Google, OpenAI, Microsoft, Adobe, Midjourney i Shutterstock.

Meta nie ujawniła dokładnego powodu tagu „Made with AI”, ale wszystkie te firmy dodały – lub pracują nad – dodanie metadanych do plików obrazów, aby wskazać użycie narzędzi AI, co jest jednym ze sposobów, w jakie Meta identyfikuje wygenerowane dane przez AI Zdjęcia. Na przykład firma Adobe zaczęła dodawać informacje o zasobach treści do metadanych wraz z wypuszczeniem w zeszłym roku systemu poświadczeń dotyczących treści.