Ontwerp een manier om onzichtbaar te worden voor een computer vision-algoritme
In september 2020 werd het boek Wicked Arts Assignments uitgegeven door Valiz. Het boek werd samengesteld door Emiel Heijnen en Melissa Bremmer, lectoren kunsteducatie van de Amsterdamse Hogeschool voor de Kunsten. Hart van het boek vormen de kunstopdrachten die zijn verzameld van over de hele wereld. Belangrijk is dat deze opdrachten daadwerkelijk eerder door de docent zijn uitgevoerd; het ‘bewijsmateriaal’ hiervan is middels foto’s toegevoegd op de pagina’s naast de desbetreffende opdracht.
Voorafgaand aan het boek werd er een open call uitgeschreven voor kunstenaars kunstdocenten om een opdracht aan te leveren die deelnemers stimuleert om anders na te denken over zichzelf, kunst en de wereld. Bijna honderd opdrachten zijn terechtgekomen in het boek en deze opdrachten kunnen in verschillende contexten worden uitgevoerd: van basisscholen tot hoger onderwijs. Ook beslaan ze allerlei disciplines. Normaliter delen docenten hun opdrachten niet snel omdat er geen vraag voor lijkt te zijn of omdat ze zich niet bewust zijn van de unieke kwaliteit die mogelijk interessant kan zijn voor anderen.
Mister Motley gaat de komende weken op thematische wijze aandacht besteden aan het boek omdat de opdrachten laten zien dat kunst niet losstaat van het alledaagse en dat iedereen met een goede opdracht aangezet kan worden tot creativiteit, tot het vinden van artistieke oplossingen. We zullen de negen weken essays, interviews met docenten/kunstenaars uit het boek en verschillende opdrachten publiceren. Vandaag is dat de opdracht van kunstenaar Luis Rodil-Fernández uit Amsterdam die luidt: Ontwerp een manier om onzichtbaar te worden voor een computer vision-algoritme.
Computer vision is nu overal, van de dystopische inzet van straatcamera’s die het sociale krediet systeem in China ondersteunen, tot het systeem dat de Nederlandse verkeersautoriteit gebruikt om snel rijdende auto’s te vangen. Van vriendschapssuggesties op Facebook tot Snapchat-camerafilters. Computer vision algoritmes zijn berucht omdat ze onvolmaakt zijn. Afhankelijk van de taak kunnen ze een mislukkingspercentage tot wel 15 procent hebben. Deze fouten manifesteren zich op verschillende manieren, waarvan sommige met mogelijke gevolgen, zoals een verkeerde interpretatie van een kentekenplaat of een gehesen vlag bij een veiligheidscontrole op een luchthaven. En soms in minder consequente contexten, zoals een verkeerde uitlijning in een afbeelding, of een niet werkende Snapchat-filter bij iemand die geen witte huidskleur heeft. Het is in deze foutmarge dat we ruimte vinden om als kunstenaars te opereren. Onder welke omstandigheden valt het visuele systeem van de machine kapot? Wat is er nodig om verwarring in deze systemen te creëren? Tijdens deze opdracht bedenk je je eigen strategie om onzichtbaar te worden voor een computer vision-algoritme door onverwachte uitkomsten te produceren. Dit zou bijvoorbeeld het detecteren van een gezicht kunnen zijn waar geen gezicht is, of het niet detecteren van een gezicht waar er duidelijk wel een is. Werk met de fout. Zoek uit op welk punt deze algoritmes onze realiteit niet meer interpreteren en maak een werk dat hiervan gebruik maakt.
Luis Rodil-Fernández (1977) is een kunstenaar, docent en programmeur met een achtergrond in informatica, kunst en design. Hij geeft les aan de ArtEZ Hogeschool voor de Kunsten in Arnhem en is docent en onderzoeker aan de Hogeschool van Amsterdam in de Master Digital Design.
————————
Computational Invisibility
Design a way to become invisible to a computer vision algorithm.
Luis Rodil-Fernández
Amsterdam, the Netherlands
Computer vision is now everywhere, from the dystopian deployment of street cameras supporting the Social Credit System in China, to the system used by the Dutch traffic authority to catch speeding cars, to Facebook friend suggestions and Snapchat camera filters. Computer Vision algorithms are notorious for being imperfect. Depending on the task, they can have fail rates of up to 15 percent. These errors manifest themselves in different ways, some of them with potential consequences, like a misinterpretation of a license plate or a raised flag at an airport security check. And sometimes in less consequential contexts like a misalignment in an image, or your Snapchat filter not working in non-white skins. It is in this error margin that we find room to operate as artists. Under what circumstances does the visual system of the machine break down? What does it take to create confusion in these systems? During this assignment you will invent your own strategy to become invisible to a computer vision algorithm by producing unexpected outcomes, false positives, or false negatives. This would be for example, detecting a face where there is none, or not detecting a face where there clearly is one. Work with the error. Find where these algorithms fail to interpret our reality and make a work that exploits this.
Luis Rodil-Fernández (1977) is an artist, teacher, and programmer with a mixed background in computer science, art, and design. He teaches at the ArtEZ University of the Arts in Arnhem and is a teacher and researcher at the Amsterdam University of Applied Sciences in the Master Digital Design.
Ook adverteren op mistermotley.nl ? Stuur dan een mail naar advertenties@mistermotley.nl