Miscreants and Misinformation on Twitter

Eva Zangerle

Ringvorlesung "Datenflut und Informationskanäle"

07.11.2013

2

/me

Eva ZangerleDiplomstudium Informatik, UIBK Promotion Informatik, UIBK PostDoc-Researcher Datenbanken und Informationssysteme, UIBK

Social Media (Twitter)Recommender SystemsMySQLGraph-Datenbanken

3

Roadmap

TwitterÜberblick Kriminalität auf TwitterSpamFake Accounts Hacked AccountsMensch, Bot oder Cyborg?Zusammenfassung

TwitterBildquelle: tech.fortune.cnn.com

6

Twitter

1.000.000.000 registrierte Nutzer250.000.000 aktive Nutzer100.000.000 aktive Nutzer pro Tag500.000.000 Tweets pro TagRekord für Tweets pro Sekunde: 143.199 (2013-08-02, 25x erhöht)Generation Y (15-34 Jahre alt; 19 Länder)

66% benützen Facebook

29% benützen Twitter

80% loggen sich täglich ein

7

Twitter

Kriminalität auf Twitter

Bildquelle: gizmodo.co.uk

9

Ziele

personalisierte Informationen sammelnzielgerichtet

Informationen verbreiten

Benutzer beeinflussen (Meinungsbildung)

Daten verkaufen

Fake Followers (18$ für 1.000 Followers)

Þ Publikum benötigt (Reichweite, Authentizität)Þ Publikum sehr groß

Spam

Bildquelle: hyphenet.com

10

Spam

Spam-Anteil bei Emails: ca. 70% Spam-Anteil auf Social Media Plattformen: ca. 5%Studie: 355% mehr Spam in Social Media Plattformen im ersten

Halbjahr 20138% aller URLs in Tweets: Betrug, Schadsoftware oder Phishing-

SeitenHöhere Click-Through-Raten

0,13% aller Werbe-URLs auf Twitter werden geklickt (~ 4 Mio. Clicks/Tag)

0,003% aller Werbe-URLs in Emails werden geklickt

11

Spam-Studie über fünf Soziale Netzwerke

Facebook, Twitter, Google+, YouTube und LinkedInErste Hälfte 2013

Abbildung entnommen aus Nexgate 2013 State of Social Media Spam Research Report, nexgate.com.

12

Spam-Studie über fünf Soziale Netzwerke

Studie: 355% mehr Spam in Social Media Plattformen im ersten Halbjahr 2013

5 von 7 neuen Accounts auf Social Media-Plattformen sind Spammer

5% aller Apps sind SpammersFacebook und Youtube haben höchsten Spam-Anteil (100-

fach)15% aller Spam-Nachrichten enthalten URLs (Rest: Text-

Spam)> 60% aller Spam-Nachrichten auf Twitter enthalten URLs

13

Spam auf Twitter

Kategorie Anteil an Spam

gratis Musik, Spiele, Bücher, Downloads 29,82%

Schmuck, Elektronikartikel, Fahrzeuge 22,22%

Glücks- und Gewinnspiele 15,72%

Finanzprodukte, Kredite, Immobilien 13,07%

Followers gewinnen 11,18%

Abnehmen 3,10%

Pornographie 2,83%

Charity 1,65%

Medikamente 0,27%

Antivirus-Software 0,14%

14

Arten von Spam auf Twitter

Call OutsWin an iTouch AND a $150 Apple gift card http://spam.com

RetweetsRT @scammer: check out the Ipads there having a give-away http://spam.com

Tweet Hijackinghttp://spam.com RT @barackobama A great battle is ahead of us

Trend SettingBuy more followers! http://spam.com #fwlr

Trend HijackingHelp donate to #haiti relief: http://spam.com

Unsolicited MentionsGreat ipads here http://spam.com @eva_zangerle @dbisibk

Kategorisierung basierend auf Grier et al.: @spam: The Underground in 140 Characters or Less

15

Verbreitung von Spam auf Twitter

Cyber-Kriminelle verwenden meist folgende Herangehensweisen:Kompromittieren/Hacken von bestehenden Accounts

Anlegen falscher Twitter-Accounts

Erzeugen eines Bots

Erzeugen eines Cyborgs

Identitätsdiebstahl (vermehrt auf anderen SN)

Twitter Spam-Filter muss umgangen werden zielgerichtete Werbung wird auch von Twitter verkauft

16

Spam auf Twitter

Twitter-Erkennungsalgorithmus für Spam-AccountsFrequenz der Tweets

duplizierte Tweets

URLs in den Tweets

viele Follow,- und Unfollow-Vorgänge

ähnliche Tweets, Vorgehensweisen über mehrere Accounts hinweg

viele weitere (unbekannte) Charakteristika

17

Eigenschaften von Spam-Accounts

Tweet-Frequenz

Abbildung entnommen aus Kurt Thomas et al. Suspended accounts in retrospect: an analysis of twitter spam. In Proceedings of the 2011 ACM SIGCOMM conference on Internet measurement conference (IMC '11). ACM, New York, NY, USA, 243-258.

Verteilung über die Klassen(I) 34%(II) 10%(III)56%

18

Eigenschaften von Spam-Accounts

Beziehungen (Followers, Friends)

Abbildung entnommen aus K. Thomas et al. Suspended accounts in retrospect: an analysis of twitter spam. In Proceedings of the 2011 ACM SIGCOMM conference on Internet measurement conference (IMC '11). ACM, New York, NY, USA, 243-258.

B‘s friend

Eigenschaften von Spam-Accounts

Inaktive Phasen

Abbildung entnommen aus K. Thomas et al. Suspended accounts in retrospect: an analysis of twitter spam. In Proceedings of the 2011 ACM SIGCOMM conference on Internet measurement conference (IMC '11). ACM, New York, NY, USA, 243-258.

20

Erkennung von Spam-Accounts

Twitter Erkennungsalgorithmus Evaluation basierend auf 1,8 Mrd. Tweets

Abbildung entnommen aus K. Thomas et al. Suspended accounts in retrospect: an analysis of twitter spam. In Proceedings of the 2011 ACM SIGCOMM conference on Internet measurement conference (IMC '11). ACM, New York, NY, USA, 243-258.

Fake AccountsBildquelle: digitaltrends.com

22

Fake Accounts

Automatisch erzeugte AccountsVerkauf von Fake Accounts zur Spam-Verbreitung10-200$ für 1.000 AccountsOnline-VerkaufStudie über gekaufte Spam-Accounts (10 Monate)

27 Verkäufer (verantwortlich für 10-20% aller Spam-Accounts)

121.027 Accounts

127.000 – 459.000$

viele doppelte oder weiter verkaufte Accounts

23

Fake Accounts

Sehr oft leicht erkennbarStandard-Profilbild

Keine Biographie

Viele duplizierte Tweets

kryptischer Username

Verhältnis Freunde/Follower

Profilbild von Bildagentur

Inhalt der Tweets

Umgehende Antwort auf Tweets

24

Fake Accounts

Präsidentschaftswahl USA 2013

Abbildung entnommen aus http://www.dailymail.co.uk/news/article-2430875/Barack-Obama-19-5m-fake-Twitter-followers.html.

25

Fake Accounts

Ben Sarma als Follower von Mitt Romney (Profilbild gestohlen)

Fake Accounts

Profilbilder von Bildagenturen

Fake Accounts

Hacked AccountsBildquelle: jrwoodward.net

29

Hacked Accounts

Hack durch automatisiertes Erzeugen von Passwörtern

Hack durch Malware

Kompromittieren des Accounts (und der Follower)Reichweite

Vertrauensverhältnis ausnützen

Direct Messages, Tweets im Namen des Benutzers

Neue Follow-Beziehungen

Wie gehen Benutzer damit um, dass ihr Account gehackt wurde?

Studie mit 1,3 Millionen Tweets (abgegriffen 12/2012 – 07/2013)

Klassifizierung mittels überwachtem Lernen (Support Vector Machines)

30

Studie Hacked Accounts - Klassen

Gehackter Account Ooh looks like I've been hacked! That explains the inability to get into my account! Will be putting that right"

Entschuldigung für Tweets My Account was hacked pls ignore all the tweets Isent today. I apologize for the inconvenience

Entschuldigung für direct messages If I sent you spams via DM, I'm really sorry - my account got hacked

Neuer AccountHey guys, go follow my new account because this one is hacked and is sending out spam

Neues Passwort Very sorry everyone. My account was hacked. password changed, hopefully that does the trick

von Freunden/Verwandten gehackt my brother hacked my account sorry

31

Studie Hacked Accounts

32

Studie Hacked Accounts

27% der Benutzer erzeugen neuen Account Twitter stellt Hilfeseiten zur Verfügung

Passwort ändern

Berechtigung externer Apps löschen

Passwörter in externen Apps ändern

Informationsdefizit

alter Account verbleibt evtl. bei Hackern

1.105 Tweets an @support

Mensch, Bot, Cyborg?

34

Bots

Programm, das automatisiert Aufgaben von Menschen übernimmtVortäuschung eines menschlichen NutzersSocialbots Bots in sozialen MedienSchnittstellen von Twitter zum automatisierten Senden, Followen,

etc.Einfluss auf Wahlen, Aktienmarkt, etc.können ab 250$ gekauft werdenRetweet, Propagation bestimmter TweetsVerkauf von Facebook-Likes über Bots: 200 Mio. $/Jahr

35

Bots

nur 35% aller Follower auf Twitter sind Menschenteils sehr intelligentaktuelle NachrichtenCarina Santos – populäre Journalistin auf Twitter war Bot Meinungsbild beeinflussen (z.B. Klimawandel)Tweets so oft versenden, bis originale Accounts von Spam-

Filter erkannt werden

36

Bots

User tweetet, dass er von der Polizei verfolgt wird (in der Nähe einer Bank of America-Filiale)

Abbildung entnommen aus Nexgate 2013 State of Social Media Spam Research Report, nexgate.com.

37

Cyborgs

Bot unterstützt durch MenschenMensch unterstützt durch BotSehr oft: Mensch registriert sich (Captcha), Bot übernimmt

alles Weitere

38

Klassifikation Mensch, Bot oder Cyborg

basierend auf Features, z.B. Häufigkeit der Tweets

Anzahl Follower/Friends

Art, wie der Tweet abgeschickt wurde (Website, App, API)

Anzahl URLs

Abbildungen entnommen aus Z. Chu et al. Who is tweeting on Twitter: human, bot, or cyborg?. In Proceedings of the 26th Annual Computer Security Applications Conference (ACSAC '10). ACM, New York, NY, USA.

39

Klassifikation Mensch, Bot oder Cyborg

Ergebnis (2009)

Abbildung entnommen aus Z. Chu et al. Who is tweeting on Twitter: human, bot, or cyborg?. In Proceedings of the 26th Annual Computer Security Applications Conference 2010 (ACSAC '10). ACM, New York, NY, USA.

40

Follower Farming

Einfluss des Tweets fließt in Suchmaschinen-Ranking einHöhere Follower-Anzahl höheres Ranking in Google für

Tweetab 2.000 Friends Twitter-BegrenzungZiel: Follower finden, die „zurück followen“Annahme: User, die wenige Kontakte haben, followen zurück

Studie mit 54 Mio. Accounts 1,8 Mrd. Tweets

41

Follower Farming

Annahme falsch

Abbildung entnommen aus S. Ghosh et al. Understanding and combating link farming in the twitter social network. In Proceedings of the 21st international conference on World Wide Web 2012 (WWW '12). ACM, New York, NY, USA, 61-70.

42

Follower Farming

Top 100.000 Spam-Followers71% haben mehr als 1.000 Followers

235 haben bestätigte (verified) Twitter Accounts

76% sind keine Spammer

24% sind nicht mehr aktive Accounts oder Spammer

aktive User Tweets über Internet Marketing, Entrepreneurship, Social Media

Unternehmen, die ihre Website promoten wollen

Social Capitalists

43

Social Capitalists - Motivation

Ziel ist Erhöhung des Einflusses im Netzwerkbessere Verbreitung der eigenen Tweetsähnlich zu SpammernHöflichkeit, „Follow back“–Etikette80% der Beziehungen reziprokgegenseitiges Pushen („will follow back“)

44

Spammer-Netzwerke

Neuere Studie über die Interkonnektivität von SpammernSpam-Accounts sind untereinander dicht vernetztGründe für Spammer-Vernetzung

Folgen völlig beliebiger Accounts

Vernetzung innerhalb gleicher Organisation

Abbildung entnommen aus C. Yang et al. Analyzing spammers' social networks for fun and profit: a case study of cyber criminal ecosystem on twitter. In Proceedings of the 21st international conference on World Wide Web (WWW '12). ACM, New York, NY, USA, 71-80.

ZusammenfassungBildquelle: http://www.hdwallpapersinn.com

46

Zusammenfassung

Kriminalität auf Twitteralles dreht sich um persönliche InformationenSpamStudie Umgang mit gehackten AccountsKlassifizierung Bot, Cyborg oder MenschFollower Farming

Kontakt & Social Media

@eva_zangerleeva.zangerle@uibk.ac.athttp://www.evazangerle.at

http://dbis-informatik.uibk.ac.at@dbisibk https://www.facebook.com/dbisibk

Bildquelle: jrwoodward.net

Quellen

C. Yang et al. Analyzing spammers' social networks for fun and profit: a case study of cyber criminal ecosystem on twitter. In Proceedings of the 21st international conference on World Wide Web 2012 (WWW '12). ACM, New York, NY, USA, 71-80.

S. Ghosh et al. Understanding and combating link farming in the twitter social network. In Proceedings of the 21st international conference on World Wide Web 2012 (WWW '12). ACM, New York, NY, USA, 61-70.

Zi Chu, Steven Gianvecchio, Haining Wang, and Sushil Jajodia. 2012. Detecting Automation of Twitter Accounts: Are You a Human, Bot, or Cyborg?. IEEE Trans. Dependable Secur. Comput. 9, 6 (November 2012), 811-824.

K. Thomas et al. Suspended accounts in retrospect: an analysis of twitter spam. In Proceedings of the 2011 ACM SIGCOMM conference on internet measurement conference (IMC '11). ACM, New York, NY, USA, 243-258.

K. Lee et al. Uncovering social spammers: social honeypots + machine learning. In Proceedings of the 33rd international ACM SIGIR conference on Research and development in information retrieval 2010 (SIGIR '10). ACM, New York, NY, USA, 435-442.

C. Grier et al. @spam: the underground on 140 characters or less. In Proceedings of the 17th ACM conference on Computer and communications security 2010 (CCS '10). ACM, New York, NY, USA, 27-37.

K. Thomas et al. Trafficking fraudulent accounts: the role of the underground market in Twitter spam and abuse. In Proceedings of the 22nd USENIX conference on Security 2013(SEC'13). USENIX Association, Berkeley, CA, USA, 195-210.

F. Benevenuto et al. Detecting Spammers on Twitter. In Proceedings of the Annual Collaboration, Electronic messaging, Anti-Abuse and Spam Conference (CEAS’10). Redmond, Washington, USA. July, 2010.

K. Lee et al. Seven Months with the Devils: A Long-Term Study of Content Polluters on Twitter. 5th International AAAI Conference on Weblogs and Social Media (ICWSM). Barcelona, July, 2011.

49

Quellen

Research Report: 2013 State of Social Media Spamhttp://nexgate.com/wp-content/uploads/2013/09/Nexgate-2013-State-of-Social-Media-Spam-Research-Report.pdf

Twitter Blog über Tweets pro Sekunde-Rekordhttps://blog.twitter.com/2013/new-tweets-per-second-record-and-how

I flirt and Tweethttp://www.nytimes.com/2013/08/11/sunday-review/i-flirt-and-tweet-follow-me-at-socialbot.html

Fake Twitter Followers Become Multimillion-Dollar Businesshttp://bits.blogs.nytimes.com/2013/04/05/fake-twitter-followers-becomes-multimillion-dollar-busines

Millennials & Social Mediahttp://www.digit-ally.co.uk/millennials-gen-y-social-media-infographic

Socialbakershttp://www.socialbakers.com