Comment perdre confiance en l'IA, ou comment j'ai été victime d'intimidation avec Gradient Photo Editor

L'article est plutôt un croquis et laisse place à l'expérimentation.

Bonjour à tous. Le week-end, je suis tombé sur l'application Gradient Photo Editor, à savoir une fonction qui vous permet d'évaluer votre ADN en utilisant la dernière technologie AI de la photographie! Un algorithme extrêmement précis analysera les traits du visage et déterminera l'origine ethnique (description extraite du site ). Moi, Mlista, je n'ai pas pu m'empêcher d'être intrigué, et bien sûr j'ai téléchargé l'application et j'ai commencé à jouer avec. Après que les photos de moi-même bien-aimé se soient terminées, le cours est allé des chefs-d'œuvre de la peinture du monde. Et puis des surprises m'attendaient :)

Peu importe - bienvenue au chat.

L'idée avec les portraits féminins de Picasso a tout de suite échoué, j'ai donc pris le chemin de la moindre résistance - j'ai pris Mona Lisa Leonardo da Vinci, Frida Kahlo de l'artiste du même nom et une fille avec une boucle d'oreille en perle de Jan Vermeer.

Pour la pureté de l'expérience, avant de télécharger les photos dans l'application, j'ai fait moi-même une prévision des pays que je m'attends à voir.

Je suggère que nous fassions d'abord une prédiction, puis que nous découvrions le résultat.

Découvrez l'origine ethnique des héroïnes des tableaux

J'étais ravi et perplexe en même temps. Pourtant, dans chacune des héroïnes, il n'y avait pas seulement des racines slaves, mais, en fait, d'origine biélorusse! Et cela malgré le fait qu'au moment de la rédaction des tableaux nous étions encore loin de l'autodétermination en tant que nation ...

Au fil du temps, l'euphorie est passée, mais le sentiment de doute est resté. Comme vous, j'ai remarqué que je n'ai pas dessiné de grille sur le visage pour une fille avec des bijoux. Il est difficile de dire pourquoi, mais! cela laisse de la place à toutes sortes de farces: pourquoi ne pas refaire cette photo? Faites une capture d'écran et encore une fois. Et pourtant ... Il suffit de regarder la reproductibilité du résultat :)

La question de la reproductibilité des résultats pour moi personnellement est controversée. Vous pouvez remarquer que du premier au neuvième écran, le teint change - il devient plus sombre. Je ne sais pas à quoi cela est lié, croyant naïvement que la capture d'écran ne prend qu'une capture d'écran, enregistrant l'image dans sa forme d'origine. D'une manière ou d'une autre, il convient de noter que j'ai commencé à ressentir le piège - avec le bronzage croissant de la jeune fille, les racines scandinaves deviennent plus apparentes ... Et cela va à l'encontre de l'apparence de mes amis du Nord. Eh bien, la diversité des pays ne peut qu'alarmer.
Comme ce test de reproductibilité a échoué, j'ai décidé d'essayer différemment. Cette fois, nous allons télécharger plusieurs autoportraits différents de Frida avec un collier épineux et un colibri et les conduire à travers l'algorithme.

Mon âme naïve croyait qu'il ne pouvait pas y avoir une telle différence cardinale, mais le fait est qu'elle existe.

De plus, j'ai téléchargé avec enthousiasme des photos d'athlètes, d'acteurs, de scientifiques et de politiciens légèrement promus, découvrant quelle nation talentueuse j'ai eu la chance de naître. Ce qui est surprenant, c'est que mes amis de Russie, d'Allemagne, de Suède, de Chine et des États-Unis voient des résultats différents ... Probablement, tout cela, ce sont les machinations des maçons.

Conclusion

En conclusion, je voudrais noter que mon humble avis n'est pas et ne peut pas être exceptionnellement précis comme indiqué sur l' algorithme (description tirée de l' extérieur ). Peut-être qu'un petit ensemble de données, limitant peut-être le développement du ML ou une autre raison, n'a pas permis de résoudre ce problème comme prévu. Cependant, il faut comprendre que tout le monde ne comprend pas ce que le ML peut et ce qui ne l’est pas. Et si vous jouez sur les fantasmes des gens que l'intelligence artificielle a déjà réalisés et peuvent - alors, à la fin, ils peuvent être très déçus de ses capacités réelles. Et puis le client vient et demande de réaliser l'inimaginable, car à son avis, beaucoup a été fait dans ce domaine.

Faites attention à ne pas sucrer la pilule avec des données géostatiques.

PS Dans les commentaires envoyés - ne pouvait pas partager.

Ils ont écrit que le sol était assorti :)