Human-Artificial Intelligence Enabled Domestic Robots Interaction In The Context Of Data Surveillance And Privacy: Robot Vacuum Cleaner Users’ Example
Asst. Prof. Ceren BILGICI – Ph.D at Université Paris III-Sorbonne Nouvelle – e-mail: c.bilgici@iku.edu.tr – Res. Asst. Özge ÖZKÖK ŞİŞMAN Istanbul Kultur University- New Media and Communication Department Ph.D. Candidate at Marmara University e-mail: o.ozkok@iku.edu.tr
Depending on the development of artificial intelligence systems, more and more robots have started to take place in the daily life of individuals. To integrate robots into humans’ daily life activities, they must be accepted by users. Robot acceptance is related to the functionality of the robot as well as how people’s interactions with robots are structured (Fronemann, Pollmann, Loh 2022). Today, domestic robots developed in line with the developments in human-robot interaction studies, have started to find a place in modern households and have enabled many users to accept them as a part of their daily lives (Graaf, Allouch and Van Dijk 2016; Graaf, Allouch and Van Dijk 2019; Chatzimichali, Harrison and Chrysostomou 2021). With the increase in types of robots with different functions in human environments, human-robot interactions have also increased significantly. Therefore, individuals have become more and more data providers to these systems. These systems need a lot of data to better understand user needs, and expectations and to improve human-robot interaction accordingly. In this direction, the more user data a system has, the more effective it can be developed for the user (Pagallo 2016). Thus, companies can save and process data about many activities related to the daily lives of users. In this context, the transformation of these artificial intelligence-based devices into a part of individuals’ daily lives has brought along concerns about data surveillance and privacy. For this reason, data governance, surveillance, and privacy have become fundamental concepts prioritized by EU Commission in Ethics Guidelines for trustworthy AI (https://ec.europa.eu/futurium/en/ai-alliance-consultation.1.html, Retrieved 02.08.2022) and by Organization for Economic Cooperation and Development (OECD) in Guidelines Governing the Protection of Privacy and Transborder Flows of Personal Data. (https://legalinstruments.oecd.org/en/instruments/OECD-LEGAL-0188, Retrieved 02.08.2022).
Foucault explained the surveillance society within the framework of the « Panopticon » metaphor emphasized by Bentham, arguing that the consciousness of being watched in social life has power over the behaviors of individuals (Foucault 1995: 356-361). Today, the progress of technological innovations has caused the concept of digital surveillance that emerged in this context has also redrawn the boundaries of data privacy (Lyon, 2013: 11). The rise in interest in robot technologies that require access to all personal data from location services to internet behaviors strengthens the paradox emerging in this framework.
In this framework, this study focuses on human-robot vacuum cleaner interaction. Robot vacuum cleaners that exhibit autonomous behavior, are the first service robots that individuals began to use widely in their homes (Hendriks etc. 2011). From this perspective, the research aims to reveal user perspectives and feelings about their relationships with these robots and to demonstrate their thoughts about data protection, surveillance, and privacy issues in this interaction. In this study, semi-structured in-depth interview method was used to convey the motivations, feelings, and thoughts of the users about their robot vacuum cleaner practices. In-depth interviews were conducted with a total of 12 participants between the ages of 25-56 who are early adopters of robot vacuum cleaners in Turkey. According to the preliminary research findings, it is revealed that the participants anthropomorphize robot vacuum cleaners and this affects their interaction with them in a positive way. Despite data privacy and surveillance concerns, positive thoughts about these devices and their functionality override these concerns.
Keywords: Artificial Intelligence, Robot, Privacy, Data, Surveillance
References
Chatzimichali, A., Harrison, R., & Chrysostomou, D. (2021). Toward privacy-sensitive human-robot interaction: Privacy terms and human–data interaction in the personal robot era. Paladyn, Journal of Behavioral Robotics, 12(1), 160-174.
De Graaf, M. M., Allouch, S. B., & van Dijk, J. A. (2016, March). Long-term acceptance of social robots in domestic environments: insights from a user’s perspective. In 2016 AAAI spring symposium series.
De Graaf, M. M., Ben Allouch, S., & Van Dijk, J. A. (2019). Why would I use this in my home? A model of domestic social robot acceptance. Human-Computer Interaction, 34(2), 115-173.
Foucault, M. (1995), Discipline and Punish: The Birth of the Prison. New York: Vintage Books
Fronemann, N., Pollmann, K., & Loh, W. (2022). Should my robot know what’s best for me? Human-robot interaction between user experience and ethical design. AI & SOCIETY, 37(2), 517-533.
Hendriks, B., Meerbeek, B., Boess, S., Pauws, S., & Sonneveld, M. (2011). Robot vacuum cleaner personality and behavior. International Journal of Social Robotics, 3(2), 187-195
Lyon, D. (2007), Surveillance Studies: An Overview. London: Wiley Press.
Pagallo, U. (2016). The impact of domestic robots on privacy and data protection, and the troubles with legal regulation by design. In Data protection on the move (pp. 387-410). Springer: Dordrecht.
Internet Resources
European Union (2022), from https://ec.europa.eu/futurium/en/ai-alliance-consultation.1.html, Retrieved 02.08.2022.
OECD Legal Instruments, (2013), from ttps://legalinstruments.oecd.org/en/instruments/OECD-LEGAL-0188 Retrieved 02.08.2022.
L’Assurance Qualité dans l’enseignement supérieur à l’ère de l’Intelligence Artificielle : pour une évaluation intelligente de la qualité des Universités.
Gnéré Laeticia Blama DAGNOGO Université Alassane Ouattara Bouaké / Côte d’Ivoire dagnogoblama@gmail.com
A l’instar des secteurs de l’Industrie et de l’économie, le contexte de l’enseignement supérieur est résolument engagé dans la compétitivité depuis plusieurs années. La plupart des Universités connaissent des changements significatifs de leur système de fonctionnement, briguant ainsi les premières places dans le ranking des Universités sur le plan international. Adopter la démarche qualité a dès lors été plébiscitée dans le milieu universitaire. Elle fait désormais partie de la vision transformatrice profonde et durable des Universités qui s’y engagent pour accroître leurs performances tout en se conformant aux exigences des normes internationales. Un certain nombre de références et lignes directrices de l’assurance qualité ont d’ailleurs été mises en place au niveau du CAMES (Conseil Africain et Malgache de l’Enseignement Supérieur) en vue d’accompagner les établissements désireux d’implémenter un système d’assurance qualité, dispositif indispensable pour atteindre les standards internationaux.
Définie comme étant un processus d’amélioration continue et permanent visant à maîtriser les activités et promouvoir la qualité au sein d’une organisation, l’assurance qualité jouit d’une notoriété sui generis au sein du système universitaire, où on lui reconnait de plus en plus une importance considérable. De ce fait, l’ISO 21001, « créée en 2018 est pensée pour les organismes d’enseignement et principalement pour les établissements d’enseignement supérieur. »[1] Mettre en place un système d’assurance qualité dans l’enseignement supérieur consiste alors en la « prise en compte et la mise en œuvre d’une politique centrée sur la qualité avec pour objectif la maîtrise de l’ensemble des processus (…) de l’établissement supérieur » (F. Boubakour 2016, p. 6).
Une politique qu’il conviendrait d’envisager dorénavant à l’aune des technologies de l’Intelligence Artificielle (IA). Cette dernière peut être définie comme « une constellation de technologies qui permettent aux machines d’agir avec des niveaux d’intelligence plus élevés et d’imiter les capacités humaines de perception, de compréhension et d’action » (K. Manning, 2021). En d’autres termes, « l’IA permet aux machines de percevoir leur environnement, de réfléchir et, dans certains cas, d’apprendre à agir en fonction de l’environnement et des circonstances qui le sous-tendent » (Idem). Ce faisant, elle fait preuve de grand dynamisme et se dévoile comme prometteuse pour l’enseignement supérieur pour lequel elle est déjà conquise à la tâche dans l’accompagnement des apprenants, à travers plusieurs applications telles que l’assistance vocale, le chatbot ou agent virtuel de conversation, les tuteurs intelligents, les systèmes d’apprentissage adaptatif … Alors, que peut-il en être de l’apport de l’IA à l’évaluation de la qualité des Universités ? C’est l’objet de la présente recherche dont la principale question est la suivante : comment mettre à contribution les technologies de l’intelligence artificielle pour une implémentation efficace et effective de l’assurance qualité dans l’enseignement supérieur ? En outre, comment l’intelligence artificielle peut-elle contribuer à une évaluation intelligente de la qualité des Universités ?
Nous partons du postulat selon lequel le déploiement des technologies de l’IA dans les Universités, notamment celles des pays du sud, est inducteur d’innovations susceptibles d’améliorer leurs performances et accroître leur compétitivité face aux Universités du nord. C’est à juste titre que nous ferons référence à la théorie de l’innovation. Un concept défini par Joseph Schumpeter (1983) en termes « de nouvelles combinaisons », et que Patrick-Yves Badillo (2013, p.22) perçoit comme : « une logique linéaire où les découvertes scientifiques, en particulier dans le domaine des TIC sont diffusés de façon mécanique et sont supposés changer ainsi l’ensemble de la société ».
Il s’agira pour ainsi dire, dans le cadre de cette étude, de faire un état des lieux des applications d’exploitation de l’IA, disponibles dans le domaine de l’éducation et susceptibles de révolutionner la qualité dans l’enseignement supérieur.
Bibliographie succincte
- Badillo Patrick-Yves (2013), Les théories de l’innovation revisitées : une lecture communicationnelle et interdisciplinaire de l’innovation ? Du modèle « émetteur » au modèle communicationnel, in « les enjeux de l’information et de la communication, GRESEC. Article disponible à l’adresse suivante : https://www.cairn.info/revue-les-enjeux-de-l-information-et-de-lacommunication-2013-1-page-19.htm
- Flichy Patrice (1995) L’innovation technique : récents développements en sciences sociales : vers une nouvelle théorie de l’innovation, Paris, La Découverte.
- Manning Katherine, (2021), Comment l’AI CUI peut aider l’enseignement supérieur ? Article disponible sur : https://www.processmaker.com/fr/blog/how-ai-cui-can-help-higher-ed/#
- Martin Michaela (dir) (2019), Assurance qualité interne : améliorer la qualité et l’employabilité des diplômés du supérieur, éditions UNESCO
- Rogers Everett (1995), Diffusion of innovations, New York: Free Press
- Schumpeter Joseph A. (1983), Capitalisme, socialisme et démocratie, Paris : Payot.
- UNESCO, (2021), « l’Intelligence artificielle dans l’éducation », article disponible sur https://fr.unesco.org/themes/tic-education/intelligence-artificielle
[1] N. Ly, la démarche qualité dans l’enseignement supérieur, article disponible sur http:// www.senegal.campusfrance.org