Aktuelle Version vom 14. Februar 2020, 08:14 Uhr

Inhaltsverzeichnis

1 ETHICS
2 XAI
3 LANGUAGE
4 REPRODUKTIVE KI

ETHICS

XAI

XAI/NLG

Bedeutung:

Code to work on...

Lime: Explaining the predictions of any machine learning classifier

This project is about explaining what machine learning classifiers (or models) are doing. At the moment, we support explaining individual predictions for text classifiers or classifiers that act on tables (numpy arrays of numerical or categorical data) or images, with a package called lime (short for local interpretable model-agnostic explanations).

https://github.com/marcotcr/lime

Argument Mining AM

Argumentext

rgumenText ist ein Validierungsprojekt des Ubiquitous Knowledge Processing (UKP) Labs an der Technischen Universität Darmstadt. Unser Ziel ist es, die aktuellsten Forschungsergebnisse in den Bereichen Argument Mining und Textanalyse für die industrielle Anwendung zu validieren und Produkte zu entwickeln, die das Potenzial unstrukturierter Daten freisetzen. Von einer zuvor für die Identifikation von Argumentstrukturen in Studentenaufsätzen entwickelten Joint-Modeling Methode (Stab und Gurevych 2017) ausgehend, entwickeln wir robuste „end-to-end“ Ansätze um Argumente aus webbasierten Datensammlungen zu extrahieren.

Durch Sprachadaption erweitern wir unsere aktuellen Methoden auf andere Sprachen wie Deutsch und evaluieren deren Performanz auf diversen Themen und Textarten. Die daraus resultierende Software kann in Echtzeit Argumente aus dynamischen Textquellen wie Nachrichtenströmen oder sozialen Netzwerken gewinnen, um dann daraus eine für den Nutzer verständliche Zusammenfassung zu erstellen.

https://www.argumentext.de/de/

Demo

- http://www.argumentsearch.com/

XAI durch Sprachrationalisierung

https://de.wikipedia.org/wiki/Rationalismus
- Baumgarten ... << Rationalismus und Ästhetik
  - sinnliche Erfahrung v.s. Wissen a priori << wo stehen wir hier mit der ästhetischen Erfahrung?
  - https://www.kubi-online.de/artikel/aesthetische-erfahrung

Rationalization: A Neural Machine Translation Approach to Generating Natural Language Explanations
- https://arxiv.org/abs/1702.07826

Youtube Video:

Interpretable Machine Learning Using LIME Framework - Kasia Kulma (PhD), Data Scientist, Aviva
- https://www.youtube.com/watch?v=CY3t11vuuOM

LANGUAGE

Konstruierte, bzw. Künstliche Sprachen

esoterische (KI) Programmiersprachen

https://esolangs.org/w/index.php?search=neural&title=Special%3ASearch&profile=default&fulltext=1
esoterische programmiersprachen http://kryptografie.de/kryptografie/chiffre/index-sprachen.htm

Forscher suchen eigene Programmiersprache: https://t3n.de/news/machine-learning-facebooks-ki-chef-sucht-sprache-1144900/

Computer (und) Literatur

p0es1s: http://www.p0es1s.net/p0es1s/intro_d.htm
stochastische Texte: https://auer.netzliteratur.net/0_lutz/lutz_original.html
Netzliteratur (Projekte): https://netzliteratur.net/netzliteratur_projekte_a.php

Florian Cramer:

KI und Literatur

https://www.faz.net/aktuell/feuilleton/buecher/literatur-und-ki-vernunft-ist-auch-eine-herzenssache-16079038.html?printPagedArticle=true#void

AI-Poetry Examples...

(KI-generierte) Krypto

NLU / NLI

NLP

https://de.wikipedia.org/wiki/Computerlinguistik

Speech recognition

NLG

https://byteacademy.co/blog/overview-NLG

https://bdtechtalks.com/2018/02/20/ai-machine-learning-nlg-nlp/
- https://www.wired.com/2016/03/google-inbox-auto-answers-emails/
- http://www.wireless-earth.de/oldstuff/oldstuff.html

(un-)supervised techniques

LSTM+Autoencoder

GAN

https://arxiv.org/abs/1705.10929

Newer techniques

transformer-based language models

OpenAI's gpt-2

https://openai.com/blog/better-language-models/
- Improving Language Understanding by Generative Pre-Training https://s3-us-west-2.amazonaws.com/openai-assets/research-covers/language-unsupervised/language_understanding_paper.pdf
- https://github.com/openai/gpt-2

Weiterentwicklung / Implementierung

https://huggingface.co/ Writer: https://transformer.huggingface.co/doc/distil-gpt2

Diskussion (old):

https://www.skynettoday.com/briefs/gpt2

How to Build...(old):

https://blog.floydhub.com/gpt2/

BERT

bidirectional encoder representations from Transformers https://arxiv.org/abs/1810.04805

LSTM-based language models

ELMO

Deep contextualized word representations https://arxiv.org/abs/1802.05365 < uses bidirectional LSTM

GRU (Gated Recurrent Unit)

it uses so-called, update gate and reset gate https://arxiv.org/abs/1406.1078

https://towardsdatascience.com/understanding-gru-networks-2ef37df6c9be

datenbanken

muß upgedated werden!!

deutsch:

https://de.wikipedia.org/wiki/GermaNet
- http://www.sfs.uni-tuebingen.de/GermaNet/

englisch:

https://wordnet.princeton.edu/

E2E NLG Challenge:

http://www.macs.hw.ac.uk/InteractionLab/E2E/

chatbots

siehe Chatbot-exMediaWiki-Seite

Toolkits/Librarys

Natural Language Toolkit: http://www.nltk.org/
Poetry Generator: https://github.com/schollz/poetry-generator

tryouts:

REPRODUKTIVE KI

https://www.sir-apfelot.de/kuenstliche-intelligenz-erschafft-neue-ki-systeme-10436/

@@ Zeile 32: / Zeile 32: @@
+----
+==Code to work on...==
+===Lime: Explaining the predictions of any machine learning classifier===
+This project is about explaining what machine learning classifiers (or models) are doing. At the moment, we support explaining individual predictions for text classifiers or classifiers that act on tables (numpy arrays of numerical or categorical data) or images, with a package called lime (short for local interpretable model-agnostic explanations).
+* https://github.com/marcotcr/lime
+----
+==Argument Mining AM==
+===Argumentext===
+rgumenText ist ein Validierungsprojekt des Ubiquitous Knowledge Processing (UKP) Labs an der Technischen Universität Darmstadt. Unser Ziel ist es, die aktuellsten Forschungsergebnisse in den Bereichen Argument Mining und Textanalyse für die industrielle Anwendung zu validieren und Produkte zu entwickeln, die das Potenzial unstrukturierter Daten freisetzen. Von einer zuvor für die Identifikation von Argumentstrukturen in Studentenaufsätzen entwickelten Joint-Modeling Methode (Stab und Gurevych 2017) ausgehend, entwickeln wir robuste „end-to-end“ Ansätze um Argumente aus webbasierten Datensammlungen zu extrahieren.
+Durch Sprachadaption erweitern wir unsere aktuellen Methoden auf andere Sprachen wie Deutsch und evaluieren deren Performanz auf diversen Themen und Textarten. Die daraus resultierende Software kann in Echtzeit Argumente aus dynamischen Textquellen wie Nachrichtenströmen oder sozialen Netzwerken gewinnen, um dann daraus eine für den Nutzer verständliche Zusammenfassung zu erstellen.
+*https://www.argumentext.de/de/
+====Demo====
+** http://www.argumentsearch.com/
 ----
 ==XAI durch Sprachrationalisierung==
@@ Zeile 41: / Zeile 57: @@
 * Rationalization: A Neural Machine Translation Approach to Generating Natural Language Explanations
 ** https://arxiv.org/abs/1702.07826
+Youtube Video:
+* Interpretable Machine Learning Using LIME Framework - Kasia Kulma (PhD), Data Scientist, Aviva
+** https://www.youtube.com/watch?v=CY3t11vuuOM
 ----
 ----
 =LANGUAGE=
@@ Zeile 128: / Zeile 149: @@
 * »on the road« by AI: https://medium.com/artists-and-machine-intelligence/ai-poetry-hits-the-road-eb685dfc1544
+----
 ====Autoencoder====
 https://www.wired.co.uk/article/google-artificial-intelligence-poetry
+----
 ====LSTM+Autoencoder====
 * https://github.com/keras-team/keras/issues/1401
 * https://www.dlology.com/blog/how-to-do-unsupervised-clustering-with-keras/
+----
 ====GAN====
 https://arxiv.org/abs/1705.10929
+----
-====transformer-based language model====
+====Newer techniques====
-OpenAI's gpt-2:
+====='''transformer-based language models'''=====
+======'''OpenAI's gpt-2'''======
 * https://openai.com/blog/better-language-models/
+** Improving Language Understanding by Generative Pre-Training https://s3-us-west-2.amazonaws.com/openai-assets/research-covers/language-unsupervised/language_understanding_paper.pdf
 ** https://github.com/openai/gpt-2
-Diskussion:
+======'''Weiterentwicklung / Implementierung'''======
+https://huggingface.co/
+Writer: https://transformer.huggingface.co/doc/distil-gpt2
+Diskussion (old):
 * https://www.skynettoday.com/briefs/gpt2
-How to Build...:
+How to Build...(old):
 * https://blog.floydhub.com/gpt2/
+----
+======'''BERT'''======
+bidirectional encoder representations from Transformers https://arxiv.org/abs/1810.04805
+----
+====='''LSTM-based language models'''=====
+======'''ELMO'''======
+Deep contextualized word representations https://arxiv.org/abs/1802.05365 <  uses bidirectional LSTM
+----
+======'''GRU''' (Gated Recurrent Unit)======
+it uses so-called, update gate and reset gate https://arxiv.org/abs/1406.1078
+* https://towardsdatascience.com/understanding-gru-networks-2ef37df6c9be
 ----
 ===datenbanken===
+ muß upgedated werden!!
 deutsch:
 * https://de.wikipedia.org/wiki/GermaNet
@@ Zeile 163: / Zeile 206: @@
 ----
 ===chatbots===
-* https://bdtechtalks.com/2017/08/21/rob-high-ibm-watson-cto-artificial-intelligence-chatbots/
+'''siehe [[Chatbots|Chatbot-exMediaWiki-Seite]]'''
-* https://chatbotsmagazine.com/contextual-chat-bots-with-tensorflow-4391749d0077
-** Jupyter Notebook: https://github.com/ugik/notebooks/blob/master/Tensorflow%20chat-bot%20model.ipynb
-* Facebook-Messenger-Bot: https://dzone.com/articles/how-i-used-deep-learning-to-train-a-chatbot-to-tal
-** Git-Repo: https://github.com/adeshpande3/Facebook-Messenger-Bot
-* https://tutorials.botsfloor.com/how-to-build-your-first-chatbot-c84495d4622d
-** Jupyter Notebooks: https://github.com/suriyadeepan/practical_seq2seq
 ----
 ===Toolkits/Librarys===
 * Natural Language Toolkit: http://www.nltk.org/

XAI / Language Models: Unterschied zwischen den Versionen

Aus exmediawiki