Aktionen

Maschinelles Dichten: Unterschied zwischen den Versionen

Aus exmediawiki
Zeile 158: Zeile 158:
 
https://text-processing.com/demo/stem/
 
https://text-processing.com/demo/stem/
 
  tokened_blob_W.words.lemmatize()
 
  tokened_blob_W.words.lemmatize()
−
 
−
=Module nachinstallieren=
 
−
==das Natural Language Toolkit NLTK zu installieren==
 
−
open conda and type:
 
−
conda install nltk
 
−
----
 
−
==textblob-de installieren==
 
−
Die Installation von textblob-de erfolgt in zwei Schritten.
 
−
 
−
1.Terminal start & type:
 
−
pip install -U textblob-de
 
−
 
−
'''„-U“''' sorgt dafür, dass alle notwendigen Abhängigkeiten auf die neueste Version gebracht werden.
 
−
 
−
2. Sprachmodelle und Sprachdaten aus dem Natural Language Toolkit (NLTK) hinzufügen:
 
−
python3 -m textblob.download_corpora
 
−
 
−
----
 
  
 
=erste Schritte mit Python=
 
=erste Schritte mit Python=

Version vom 30. Oktober 2019, 22:27 Uhr

KHM-Wolke

Anleitung: KHM-Wolke einrichten

was bietet euch diese Cloud?:

  • Filesharing zwischen eigenen und den Lab-Rechnern
  • Eigene Cloud
  • Eigener Kalender, Passwortcontainer, Mindmaps etc.
  • Frontend für euren E-Mail Account

Link zu unserem Seminars-Filesharing-Ordner: Seminars-Cloud oder neuer link???

Experimentelle Informatik - Kalender: https://wolke.khm.de/index.php/apps/calendar/p/n6a59z9AnKKnFgTz/exLabIII

Vorstellungsrunde

human@machine $ whoareyou

Frage1 an euch:

  • was richtete eure aufmerksamkeit in den letzten tagen/wochen/monaten besonders auf sich? d.h. welche debatten, news, diskussionen mit euren freunden/bekannten in diesem kontext?
human@machine $ whoami

Frage2 an mich: was passiert wenn wir mit hilfe von künstlicher intelligenz beginnen soziale klassen zu unterscheiden, bzw. sogar sie selbst klassifizieren zu lassen?

In Australien entscheidet ein automatisiertes System über eingestellte Zahlungen an Empfänger:innen von Sozialleistungen und versendet jede Woche rund 50.000 entsprechende Benachrichtigungen. Luke Henriques-Gomes, Australien-Korrespondent bei The Guardian, berichtet über die teils prekären Situationen, in denen die Betroffenen dadurch landen würden. Häufig genügten geringste Versäumnisse, etwa die Nichtteilnahme an einem von der Arbeitsagentur kurzfristig festgelegten Termin, für einen Zahlungsstopp. Problematisch seien laut Henriques-Gomes nicht nur das aggressive Regelwerk des Systems und die Tatsache, dass menschliches Personal bei den Behörden immer weniger Einfluss auf Entscheidungen habe, sondern auch, dass den Betroffenen Ansprechpartner:innen fehlten – gerade dann, wenn eine algorithmische Entscheidung sich als falsch herausstellt (Fehlentscheidungen der Software sorgten sorgten schon vor zwei Jahren für Aufsehen).

Gemäß der Recherche des Guardian seien zwei Gruppen in besonderem Maße negativ von dem System betroffen: Obdachlose und Alleinerziehende.

Da errechnet der Computer laut Medienberichten bereits heute, wer nicht produktiv genug ist, und verwarnt und entlässt automatisiert. Der Vorgesetzte muss nur noch gegenzeichnen, wie das Portal mit diesem Dokument belegt. Laut dem Bericht würden jedes Jahr zahlreiche Mitarbeiter aufgrund mangelnder Effizienz entlassen, wobei die Überwachung und Auswahl mithilfe eines automatisierten Tools erfolge. Einige Mitarbeiter gaben an, dass sie deshalb bereits so weit wie möglich auf Toilettenpausen verzichteten.

Wie das US-Magazins "The Verge" berichtet, setzt der US-Onlineversandhändler einen Algorithmus ein, um die Arbeit seiner Mitarbeiter zu kontrollieren und auszuwerten. Ist die Leistung nicht zufriedenstellend, kann das System die Mitarbeiter sogar feuern. Kündigungen und Abmahnungen verschickt die KI teilweise automatisiert – und ohne vorherige Zustimmung eines Vorgesetzten.

Exkursion/Gäste in diesem Semester

Projektpräsentation - Verena Lercher

Verena Lercher stellt ihre künstlerische Arbeit vor:

Verena l2.png

Ross Goodwin on the Road

Not a poet.

Ross Goodwin is an Artist, creative technologist, hacker, gonzo data scientist, writer of writers. Graduate of NYU ITP & MIT; former Obama administration ghostwriter. Employs machine learning, natural language processing, other computational tools to realize new forms & interfaces for written language.

wordcar https://github.com/rossgoodwin/wordcar

Artikel:

Jupyter Notebooks Einführung

Offizielle Dokumentation: https://jupyter-notebook.readthedocs.io/en/stable/index.html

Jupyter ist eine Webapplikation, die das Arbeiten mit sogenannten Jupyter Notebooks ermöglicht. In Jupyter Notebooks kann man neben Code (nicht nur Python) auch formatierten Text, Links, Bilder, Videos und interaktive Widgets generieren, laufen lassen und exportieren. Neben der modernen Jupyter-Umgebung kann man Python auch im klassichen Interface “Editor + Command Line” verwenden.

Markdown Syntax

Markdown hat Ähnlichkeiten mit einer Computersprache, ist aber wesentlich einfacher konzipiert und soll so für jeden verständlich sein. Markdown ermöglicht es, Texte im Web zu formatieren, ohne das betreffende Dokument dazu mit eckigen Klammern, Befehlen und sonstigen Kommandos zu überfluten, wie man sie für ein gestyltes HTML-Dokument normalerweise benötigt.

Am besten zeigen sich die Vorteile von Markdown in einem Praxisbeispiel. Zwei Absätze mit Text und einer Überschrift sollen gestylt werden – der erste kursiv, und der Zweite gefettet. In klassischem HTML müsste man eigentlich folgenden Code verfassen:

<h2>Markdown-Test</h2>
<p><strong>Dieser Text soll fett geschrieben werden.</strong></p>
<p><em>Und dieser Absatz soll kursiv angezeigt werden.</em></p>

In Markdown würde das obere Beispiel wie folgt aussehen: 

## Markdown-Test
**Dieser Text soll fett geschrieben werden.**
*Und dieser Absatz soll kursiv angezeigt werden.*
  • zum Ausprobieren, siehe Notebook in Cloud: Markdown-basics.ipynb

Markdown hilfe:

advanced:

Stimmungsanalyse

Sentiment Detection (auch Sentimentanalyse, englisch für „Stimmungserkennung“) ist ein Untergebiet des Text Mining und bezeichnet die automatische Auswertung von Texten mit dem Ziel, eine geäußerte Haltung als positiv oder negativ zu erkennen.

textblob

TextBlob ist ein Tool für natural language processing (NLP) mit Python.

Mit Textblob sind viele Ansätze wie etwa Erkennen von Wortarten, Extraktion von Substantiven, Stimmungsanalyse und auch Klassifizierungen möglich.

Vorverarbeitung von Texten

Wir benutzen hierzu

  1. die gängigen Python-Tools
  2. NltK, das Natural Language Toolkit
  3. textblob-de

Tokenization

type @lindner lol, that was #awesome :) in: https://text-processing.com/demo/tokenize/

Whitespace Tokenizer in Python

splitten mit python (whitespace): 

token_WS=gedicht1.split() 
print(token_WS)

Treebank Tokenizer mit NLTK

#from nltk.tokenize import TreebankWordTokenizer
from nltk import word_tokenize

--- 

# satz by word separieren
tokened_W=word_tokenize(gedicht1, language='german')
print(tokened_W)

--- 

tweet = "@lindner lol, that was #awesome :)"
tokened_tweet=word_tokenize(tweet, language='english')
print(tokened_tweet)

oder mit textblob-de...

from textblob_de import Word
from textblob_de import TextBlobDE as TextBlob

--- 

tokened_blob_W=TextBlob(gedicht1)
print(tokened_blob_W)
print(tokened_blob_W.words)

Stemming & Lemmatization

https://text-processing.com/demo/stem/ 

tokened_blob_W.words.lemmatize()

erste Schritte mit Python

Variablen setzen

EKI = "Entwickler Künstlicher Intelligenz aus Indien"
HGA = "Höchstens geduldeter Ausländer"

EKI = 1
HGA = 0

Summe = EKI + HGA

Ausgaben mit print()

print(sum)

print("Hallo Welt")

Eingaben mit input()

Text: 

input("is EKI in the house? type true for 1 or false for 0:")

Ganzzahl: 

int(input("is EKI in the house? type 1 for true or 0 for false:"))

Fließkommazahl: 

float(input("is EKI in the house? type 1.0 for true or 0.0 for false:"))

Kontrollstrukturen

if_Anweisung: 

if EKI > 1:
     print("true")
else:
     print("false")

siehe auch: Übersicht von Vergleichsoperatoren

Kommentare

Einzeiliges Kommentar 

# mit dem Hashtag zu Beginn einer Zeile wird auskommentiert

mehrzeilige Kommentare: 

"""In 3 Anführungszeichen
können mehrzeilige Kommentare (__doc__strings)
verfasst werden"""

Python Tutorials

Onlinetutorial:

Book:

Videotutorial:

Hands-on Tutroial:

Abgerufen von „https://exmediawiki.khm.de/index.php?title=Maschinelles_Dichten&oldid=3497“