Modèles de croyance pour l'information distribuée et la polarisation dans les réseaux sociaux.

Belief Models for Distributed Information and Polarization in Social Networks.

• Auteur / Autrice : Santiago QUINTERO PABóN
• Direction : Catuscia Palamidessi
• Type : Projet de thèse
• Discipline(s) : Informatique, données, IA
• Date : Inscription en doctorat le 01/10/2018
• Etablissement(s) : Institut polytechnique de Paris
• Ecole(s) doctorale(s) : École doctorale de l'Institut polytechnique de Paris
• Partenaire(s) de recherche : Laboratoire : LIX - Laboratoire d'informatique

Mots clés

Mots clés libres

Modélisation algébrique

Savoir distribué

Polarisation de groupe

Information spatiale

Raisonnement sur les groupes

Raisonnement sur l'espace

Algebraic Modeling

Distributed Knowledge

Group Polarization

Spatial Information

Reasoning about Groups

Reasoning about Space

Résumé

Les systèmes computationnels distribués ont changé drastiquement au cours des dernières années, avec l’avènement de technologies telles que les réseaux sociaux ou le stockage en ligne (« cloud storage »). Ce qui différencie ces nouveaux systèmes, c’est l’importance du flux d’information épistémique (faits, croyances, mensonges), qui peut engendrer des difficultés pour nos sociétés et pour la démocratie. Les réseaux sociaux contribuent au discours civique parce qu’ils catalysent l’échange de faits, croyances, et opinions au sein des communautés (appelées cercles, groupes, ou amis). Cependant, compte tenu de leur nature computationnelle et de leur popularité, ces réseaux sont aussi risqués : des acteurs - des algorithmes ou des humains, peuvent diriger certaines informations vers des millions d’agents ou filtrer ces informations en fonction de l’historique des usagers sur le réseau. Même si ce n’est pas leur intention initiale, de telles actions peuvent aboutir à une polarisation extrême. En effet, deux individus ayant des convictions opposées vont filtrer les nouvelles informations de manière biaisée, les faisant diverger par rapport à leur position initiale [11]. Or, un groupe avec des convictions homogènes a tendance à agir de manière plus extrême que ne le dictent les préférences des individus membres [10]. Les croyances et convictions de ces individus se radicalisent ainsi, et s’isolent dans leur cercle idéologique, causant alors de dangereuses fractures sociales. Cette situation est encore plus complexe lorsque les informations en question sont des mensonges, des canulars, ou des infox (« fake news »). Les réseaux sociaux ont déjà joué un rôle clé dans le processus politique. Les référendums du Brexit ou l'accord de paix en la Colombie, ainsi que la dernière élection présidentielle aux États-Unis sont des exemples notoires de ce rôle [9]. Ils illustrent le fait que des messages diffusés dans les réseaux sociaux, contenant des éléments d'idéologie extrémiste, des mensonges, des intox, de la démagogie et de la discrimination ethnique peuvent influencer des prises de décision fondamentales. En fait, nous avons atteint un point critique où la production d'information malveillante est devenue rentable dans des pays comme la Macédoine, où des compagnies se spécialisent dans la distribution de ces informations sur les réseaux sociaux. Les violations de la vie privée sont également une préoccupation majeure concernant les réseaux sociaux et « cloud storage », car à travers de ces plateformes, les individus accèdent ou publient en continu des informations privées (croyances, convictions, géolocalisation, biographie, photos, carnets d’adresse, parmi d’autres). Dans de tels scénarii, un agent malveillant peut exploiter les vulnérabilités du système pour accéder à ces données. En outre, les préoccupations en matière de protection de la vie privée peuvent changer dans le temps, en fonction du comportement des agents, ou de l’évolution de la sensibilité d’une même information. Par exemple, la divulgation involontaire de l'orientation sexuelle de quelqu'un n’a plus le même impact maintenant qu’il y a quinze ans, grâce à l’évolution des perceptions à ce sujet. Le scandale de Facebook-Cambridge Analytica, qui a dénoncé la collecte sans accord des données personnelles de plus de 87 millions d'usagers, est un exemple notoire des problèmes de protection de la vie privée et de polarisation. Il est possible que ces données aient été utilisées pour reconstituer les profils psychologiques de ces utilisateurs, des profils qui ont servi à viser finement la campagne psychographique d’influence de l’élection américaine de 2016. Même s’il n’est pas certain que cette campagne aurait changé les opinions d’un nombre significatif d’électeurs, ces méthodes de «microtargeting » peuvent renforcer les prénotions des utilisateurs. Ce renforcement contribue à la polarisation, qui radicalise les opinions du groupe au-delà des positions initiales de ses membres. Ce phénomène peut certainement avoir des conséquences importantes dans l’espace public et pour la démocratie en général. Nous pouvons isoler deux aspects cruciaux des systèmes décrits ci-dessus, qui sont au cœur de ce projet. À notre connaissance, ces aspects n'ont pas été suffisamment traités dans le contexte de la théorie des systèmes concurrents des réseaux sociaux. Le premier aspect est la nature intrinsèquement épistémique de ces systèmes, qui découle de la présence de comportements sociaux. Avec des millions d’utilisateurs partageant en continu des faits, opinions, croyances, mensonges, ou infox, l’information épistémique est omniprésente. Sans le savoir, un utilisateur peut mettre en danger sa vie privée ou professionnelle en fonction de qui peut accéder à ses opinions ou ses croyances, et de comment on y accède. Nous souhaiterions prévoir quand un message posté (par exemple un mensonge) peut polariser, aboutir à une violation de la vie privée, ou changer une prise de décision. Modéliser ce flux épistémique dans un environnement extrêmement répartis serait donc une contribution importante pour évaluer les risques sociaux et ceux concernant la vie privée. Le deuxième aspect est la nature spatiale du calcul. Avec l’avènement, parmi d’autres plateformes, du « Cloud Computing » le calcul spatial est maintenant à la portée de tous et omniprésent. Les utilisateurs, les programmes et les informations sont répartis spatialement sur ces plateformes. Une compréhension solide de cette notion d’espace est fondamentale pour tous les modèles des systèmes contemporains parce qu’ils sont répartis et ils communiquent entre eux. Il est donc crucial de pouvoir décrire, analyser et, en général, raisonner sur des systèmes concurrents présentant des caractéristiques épistémiques et spatiales. Ce raisonnement doit être précis et fiable. Par conséquent, il doit être fondé sur les principes mathématiques de la même manière que le raisonnement portant sur les programmes séquentiels est fondé sur la logique, la théorie des ensembles, et autres disciplines mathématiques. Dans ce projet doctoral, il est proposé de relever le défi de développer un modèle mathématique fondamentalement différent des modèles existant actuellement dans la théorie des systèmes concurrents. Ce modèle vise à une compréhension approfondie du comportement épistémique et spatial des systèmes concurrents actuels. Il sera capable de prédire de manière rigoureuse le comportement d’un système concurrent en présence d’un flux complexe d’informations, tels que la connaissance, les faits, les déclarations publiques et les opinions. Comme application saillant, le modèle permettra de prédire si, au sein d’un réseau social, une mésinformation pourrait conduire à des situations non désirées, telles que la polarisation de groupe, la divulgation publique d’information à caractère sensible ou d’autres comportements intrusifs.

Distributed computational systems have changed substantially in the recent past with the advent of technologies such as Social Networks and Cloud Storage. What marks these systems is an emphasis on the flow of epistemic information (facts, beliefs, lies) to a much greater degree than before with great impact on our democracy and on our society at large. Social networks may facilitate civil discourse by making possible a prompt exchange of facts, beliefs and opinions among members of a community (known as circles, groups, friends). Nevertheless, because of their popularity and computational nature, social networks are also exposed to actors (algorithms, malicious agents, etc) that can direct and filter specific information to millions of users based on their social media history such as posts, searches and group affiliations. Even if not intentional, this may result in an extreme polarization of opinions as people with opposing views would tend to interpret new information in a biased way causing their views to move further apart [11]. Similarly, a group with uniform views often tends to make more extreme decisions than its individuals [10]. As a result, users’ beliefs may become more radical and isolated in their own ideological circle causing dangerous splits in society [12]. The situation becomes even more complex when the pieces of information directed at users are intentional lies, hoaxes or fake news. Indeed, social media platforms have played a key role in the political process. Referenda such as Brexit and the Colombian Peace Agreement as well as the USA 2016 Presidential Election are compelling examples of this phenomenon [9]. These cases illustrated that messages in social media with elements of extremist ideology in political and public discourse, lies, misleading or malicious information (fake news), demagoguery and ethnic discrimination may influence fundamental decision-making processes. In fact, we have reached a critical point where the production of malicious information in social media by fake news websites has become a profitable source of revenue in some countries like Macedonia [8]. Privacy breaches are also a fundamental concern in social networks and cloud storage where agents continuously post beliefs/facts (e.g., opinions, activities, geographic positions) and run applications accessing their local spaces (e.g. biography, address book and albums). In such scenarios, a malicious agent may attempt to exploit system vulnerabilities and learn over time private information regardless of the user's awareness of this event. Another issue is that privacy concerns can evolve over time, often guided by the combination of agents’ behavior, and a same breach may become less or more relevant over time. The impact of the unintended disclosure of someone’s sexual orientation, for example, has changed significantly in recent years, in a great part due to a change in agents’ beliefs, learning and perception about the matter. A compelling example combining the above-mentioned issues involving privacy threats and group polarization is the Facebook–Cambridge Analytica data scandal where private information of at least 87 millions of users was collected without their consent. This information could have been potentially used to build psychological profiles of users and then for psychographic microtargeting to influence the 2016 general election campaign. It is not clear that a substantial number users would have changed their minds on voting for a given candidate. Nevertheless, microtargeting may reinforce users’ preconceived notions and beliefs. This contributes to group polarization, making the opinions and beliefs of the users of a given group more extreme than the initial inclinations of its members. This clearly may have affect civil discourse with negative effects for the electoral process and democracy at large. We can single out two prominent aspects from the above-mentioned systems that are central to this proposal; to the best of our knowledge, they have not been sufficiently addressed in the context of concurrency theory for social media. The first one is the intrinsic epistemic nature of these systems arising from the presence of social behavior. We constantly have millions of users posting and learning facts, opinions, beliefs, lies and making decisions on social networks; epistemic information is everywhere. How precisely and by whom a user's opinions and beliefs can be seen may have a significant impact on his social/professional life or that of his affiliations (companies, governmental bodies, etc). We would also like to decide whether a given post or intentional lie may lead to group polarization, public announcements of sensitive information or affect decision-making. Being able to model this epistemic flow in a highly distributed environment would thus be an important contribution to assessing privacy breaches and social risks. The other aspect is the spatial nature of computation. With the advent of cloud computing and other virtualized platforms, computational space is now more than ever available to everyone; space is everywhere. Users, programs and information are spatially distributed in these networks. A solid understanding of this notion of space is fundamental in any model of today's distributed, communicating systems. It is therefore crucial to be able to describe, analyze and, in general, reason about concurrent systems exhibiting epistemic and spatial behavior. This reasoning must be precise and reliable. Consequently, it ought to be founded upon mathematical principles in the same way as the reasoning about the behavior of sequential programs is founded upon logic, domain theory and other mathematical disciplines. In this PhD project we take up the task of developing a mathematical model, conceptually different from existing models of concurrency, for the precise understanding of epistemic and spatial behavior in today’s concurrent systems. The model will be able to rigorously predict the behavior of a concurrent system in the presence of complex flow of epistemic information such as knowledge, facts, public announcements, lies and opinions. As a compelling application the model will be to predict if in a given social network, certain post (e.g., a lie) may lead to unwanted situations such as group polarization, the public announcement of sensitive information or other intrusive behaviors.