N\u00e5r man designer med Machine Learning m\u00e5lrettet kreative form\u00e5l, t\u00e6nker man anderledes end hvis man skulle designe et system til – fx – diagnosticering eller fabriksstyring. Du bliver mere opm\u00e6rksom p\u00e5 hvordan et system opleves og m\u00e5ske mindre opm\u00e6rksom p\u00e5, hvordan det virker p\u00e5 en eller anden praktisk virkelighed.<\/p>\n
Og det synes jeg er et godt udgangspunkt for l\u00e6ring.<\/p>\n
Vi skal bl.a se p\u00e5:<\/p>\n
- \n
- Hvordan algoritmer l\u00e6rer fra data<\/li>\n
- Fokus p\u00e5 Machine Learning som et design v\u00e6rkt\u00f8j\n
- \n
- Til interaktive og kreative form\u00e5l<\/li>\n
- Hands-on tilgang<\/li>\n<\/ul>\n<\/li>\n<\/ul>\n
\n3 tilgange<\/h2>\n
- \n
- Klassifikation (v\u00e6lg mellem forskellige muligheder eller kategorier)<\/li>\n
- Regression (brug et input til at p\u00e5virke normaliserede variable gradvist)<\/li>\n
- Tempor\u00e6r analyse (fx hvordan stemmen \u00e6ndrer sig over tid – talegenkendelse)<\/li>\n<\/ul>\n
\nThe Machine Learning Pipeline<\/h2>\n
- \n
- Input (mikrofon, kamera, GPS, Twitter feed)<\/li>\n
- Processering: Model<\/strong> – beslutning (supervised learning algorithm)<\/li>\n
- Output<\/li>\n<\/ul>\n
![\"\"](\"https:\/\/moe.it.slotshaven.dk\/wp\/wp-content\/uploads\/2018\/04\/ml.jpeg\")
\nhttps:\/\/www.kadenze.com\/courses\/machine-learning-for-musicians-and-artists-v\/sessions\/introduction<\/em><\/p>\nWekinator<\/h3>\n
Rebecca Fiebrink har skrevet koden til Wekinator, for at f\u00f8lge kursusversionen skal man downloade den her<\/a><\/p>\n
\u00d8vrige instruktioner: Machine_Learning_Assignment_1_Instructions<\/a><\/p>\n
OSC<\/h3>\n
Netv\u00e6rks lydkontrol.<\/p>\n
Open Sound Control (OSC) is a protocol for networking sound synthesizers, computers, and other multimedia devices for purposes such as musical performance or show control. OSC’s advantages include interoperability, accuracy, flexibility and enhanced organization and documentation.<\/p>\n
![\"\"](\"https:\/\/moe.it.slotshaven.dk\/wp\/wp-content\/uploads\/2018\/04\/osc.jpeg\")
<\/p>\nOg husk: Der m\u00e5 ikke v\u00e6er to programmer der lytter p\u00e5 samme port!<\/p>\n
Klassifikation<\/h1>\n
- \n
- Klassifikation (v\u00e6lg mellem forskellige muligheder eller kategorier)\n
- \n
- Jvf eksemplet med webcam input. Som for eksempel har tre “kategorier” eller konfigurationer, som bliver sammenlignet.<\/li>\n<\/ul>\n<\/li>\n<\/ul>\n
\u00c5bn eksemplet “Classifier explorer”<\/p>\n
Man kan forestille sig, at man vil opsnappe hvor et menneske befinder sig i et kamerainput. Eller endnu simplere: om noget, f.eks et museklik, er til h\u00f8jre eller venstre p\u00e5 sk\u00e6rmen.<\/p>\n
Med en simpel funktion, der modtager et kliks position fra musen, kan man let afg\u00f8re om klikket er til h\u00f8jre eller venstre for midten af sk\u00e6rmen: if(x > width\/2) return 2 etc.<\/p>\n
Lad os s\u00e5 overf\u00f8re det eksempel til en machine learning algoritme. Vi bruger funktionen til at returnere en r\u00e6kke logiske venstre-h\u00f8jre positioner – det bruges nu som tr\u00e6ning for machine learning algoritmen:<\/p>\n
![\"\"](\"https:\/\/moe.it.slotshaven.dk\/wp\/wp-content\/uploads\/2018\/04\/Uden-navn-1024x513.jpeg\")
<\/p>\nOg det virker jvf eksemplet i koden. Men hvorfor egentlig? Hvad er det Machine Learning algoritmen g\u00f8r, som den simple funktion ikke g\u00f8r? Eller med andre ord – hvordan g\u00e6tter ML algoritmen hvad der er midterlinjen n\u00e5r den ikke er hardkodet?<\/p>\n
Klassifikationsalgoritmer: Nearest neighbour classifier<\/h3>\n
Lad os forestille os at vi selv er classifier algoritmen. Vi modtager nu en r\u00e6kke x-y-v\u00e6rdier, og det eneste vi f\u00e5r at vide er, at det er klasse 1. Dern\u00e6st modtager vi en anden r\u00e6kke v\u00e6rdier, som vi f\u00e5r at vide er klasse 2.<\/p>\n
En m\u00e5de at afg\u00f8re et kliks klasse kunne v\u00e6re at se p\u00e5 klikkets n\u00e6rmeste nabo. Hvem er t\u00e6ttest p\u00e5 mht klasse? Fint, s\u00e5 m\u00e5 det nye klik ogs\u00e5 have den klasse.<\/p>\n
Klassifikationsalgoritmer: Decision stump<\/h3>\n
Draw a line<\/p>\n
En anden strategi kunne v\u00e6re at pr\u00f8ve at dele klasserne i to grupper p\u00e5 hver sin side af en linje (lodret s\u00e5vel som vandret). Denne algoritme kaldes en Decision Stump.<\/p>\n
Den l\u00e6rer egentlig p\u00e5 baggrund af en lige s\u00e5 simpel logisk betingelse, som den f\u00f8rste stump kode: hvis x er mindre end dette: klasse 1 – ellers: klasse 2<\/p>\n
Men for at g\u00f8re s\u00e5dan, m\u00e5 den selvf\u00f8lgelig kunne lave et rimeligt g\u00e6t p\u00e5 en split-linje ud fra tr\u00e6ningsdata. Og hvordan f\u00e5r den s\u00e5 det?<\/p>\n
Stay tuned…<\/p>\n
![\"\"](\"https:\/\/moe.it.slotshaven.dk\/wp\/wp-content\/uploads\/2018\/04\/Uden-navn-1-1024x542.jpeg\")
<\/p>\nFundamentale udfordringer<\/h3>\n
- \n
- Hvilken klassifikations algoritme vil du bruge?<\/li>\n<\/ul>\n
Hvad er egentlig forskellen p\u00e5 de to m\u00e5der algoritmerne sondrer p\u00e5?<\/p>\n
![\"\"](\"https:\/\/moe.it.slotshaven.dk\/wp\/wp-content\/uploads\/2018\/04\/nearest.jpeg\")
![\"\"](\"https:\/\/moe.it.slotshaven.dk\/wp\/wp-content\/uploads\/2018\/04\/stum-1.jpeg\")
<\/p>\nNearest neighbor klassificerer anderledes end decision stump. Hvorn\u00e5r skal man bruge hvad?<\/p>\n
NN er bedst til at h\u00e5ndtere kaos eller spicificitet – man kan sige den er mere ekspressiv<\/p>\n
Decision stumps er mere robuste overfor fejl i data! MEN eftersom decision stump er s\u00e5 supersimpel i sit design, at den kun kan beslutte sig for EN enkelt linje uanset hvor mange klasser data der indg\u00e5r, er den kun brugbar som et l\u00e6ringsm\u00e5l: et skridt p\u00e5 vejen til at forst\u00e5 beslutningstr\u00e6er.<\/p>\n
K-nearest neighbor<\/h3>\n
Brug flere naboer til at klassificere – k flere. Det er klart at denne algoritme kompenserer for nogle af de fejl der kan opst\u00e5 tilf\u00e6ldigt i data.<\/p>\n
Beslutningstr\u00e6er<\/h3>\n
Decision stumps er opbygget af et enkelt if else statement. Men hvad hvis vi have flere nedenunder? S\u00e5 ville vi have et sorterings- eller beslutningstr\u00e6. De f\u00f8rste to punkter kommer i to separate if else. De n\u00e6ste falder uv\u00e6rgeligt ned gennem deres tragt og danner efterh\u00e5nden et beslutningstr\u00e6, der i princippet kan v\u00e6re uendelig dybt.<\/p>\n
Huskeliste<\/h3>\n
- \n
- En classifier er en model der tildeler en label til et input<\/li>\n
- Den er kun i stand til at tildele en label p\u00e5 baggrund af tr\u00e6ningsdata<\/li>\n
- Labels kommer i form af numre – men hvad du vil bruge de numre til, er helt op til dig \ud83d\ude42<\/li>\n<\/ul>\n
I den virkelige verden<\/h3>\n
- \n
- Det kunne v\u00e6re klassifikationer af medicinske tests: blodpr\u00f8ver f.eks. Er der noget lorent ved denne boldpr\u00f8ve? well, kig i arkiverne og klassific\u00e9r den p\u00e5 baggrund af tr\u00e6ningsdata.<\/li>\n
- Har denne domsafsigelse en afvigelse p\u00e5 baggrund af normen for denne forbrydelse?<\/li>\n
- Er det sandsynligt at brugere der har klikket “like” p\u00e5 denne side, klikker sig videre p\u00e5 denne annonce?<\/li>\n
- Er denne e-mail spam eller ej?<\/li>\n
- Er der et ansigt i denne film?<\/li>\n
- Er det her en bestemt persons fingeraftryk?<\/li>\n
- Er det sandsynligt at du ville k\u00f8be et bestemt produkt (baseret p\u00e5 din k\u00f8bshistorik)?<\/li>\n
- Er du gravid? (baseret p\u00e5 p\u00e5 andre gravides s\u00f8gninger f.eks)<\/li>\n
- http:\/\/www.ismir.net\/ The foundation for music info retrieval<\/li>\n
- G\u00e5r den her aktie op eller ned?<\/li>\n
- Er dette et tegnsprogstegn?<\/li>\n
- St\u00e5r der noget her?<\/li>\n<\/ul>\n
Features<\/h2>\n
Lad os sige vi bev\u00e6ger os videre til et tredimensionalt rum, med tre koordinater i stedet for to. I Machine Learning taler vi nu om, at vi har tre features<\/em> i stedet for to.<\/p>\n
Eller det kunne v\u00e6re vi havde en input controller der sender flere input, fx Leap Moti0n Controller<\/a>, som m\u00e5ler x.y.z koordinater for hver af dine fingerspidser i realtid (!)<\/p>\n
I tre dimensioner, virker decision stump ikke ved hj\u00e6lp af en linje – men af en v\u00e6g.<\/p>\n
Det skal vise sig at matematikken til at udregne afstanden mellem punkter i flere dimensioner, heller ikke er voldsomt mere kompliceret end i to:<\/p>\n
![\"\"](\"https:\/\/moe.it.slotshaven.dk\/wp\/wp-content\/uploads\/2018\/04\/Uden-navn-2-1024x562.jpeg\")
<\/p>\nFeature selection<\/h3>\n
Bare fordi du kan bruge flere parametre, er en af de vigtigste ting i Machine Learning at v\u00e6lge de relevante features. En god \u00f8velse kan v\u00e6re at t\u00e6nke tilbage p\u00e5 det to-dimensionelle rum, vi arbejdede med f\u00f8rst:<\/p>\n
![\"\"](\"https:\/\/moe.it.slotshaven.dk\/wp\/wp-content\/uploads\/2018\/04\/Untitled-drawing-2.png\")
<\/p>\nHusk<\/h3>\n
- \n
- Dine tr\u00e6ningsdata er vigtige for din model – hvis den ikke virker som den skal, kan det v\u00e6re du skal lave tr\u00e6ningsdata om.<\/li>\n
- Du kan gemme din classifier og genbruge den<\/li>\n
- Det er ofte hurtigere<\/em> at bruge machine learning, end at skrive koden til klassificering selv – nogle gange kan det ikke engang lade sig g\u00f8re at programmere det selv..<\/li>\n
- Classifier eksemplet virker ikke med de forskellige input\/output eksempler – den overtager alle porte..<\/li>\n<\/ul>\n
Regression<\/h1>\n
Klassifikation beregner et nummer p\u00e5 en klasse ud fra et eller flere input, mens regression…<\/p>\n
- \n
- Beregner et numerisk output fra et input (ikke som i klassifikation: en klasse, men et faktisk tal)<\/li>\n
- Output forandrer sig j\u00e6vnt, n\u00e5r input forandrer sig (smooth)<\/li>\n
- Bruges til at kontrollere parametre, f.eks volumen, farve, position etc<\/li>\n<\/ul>\n
Forskelle mellem Regression og Classification<\/h2>\n
Classification<\/p>\n
- \n
- Output is a class\/ label category<\/li>\n
- Classifier will never output a value not in the training set<\/li>\n
- No notion of “in between” categories<\/li>\n<\/ul>\n
Regression<\/p>\n
- \n
- Output is a (float) number<\/li>\n
- Can output values not in training set<\/li>\n
- Output might be between or outside values in training set<\/li>\n<\/ul>\n
Line\u00e6r regression<\/h2>\n
Skaber en linje ud fra formelen y = ax + b<\/p>\n
Skaber en lige linje mellem tr\u00e6ningspunkterne<\/p>\n
Smart til fx Volume – eller andre scenarier hvor du vil have en stabil og glidende overgang mellem to yderpunkter<\/p>\n
Polynomial Regression<\/h2>\n
Skaber en kurve ud fra formlen y = ax\u00b2 + b – eller i h\u00f8jere faktorer<\/p>\n
God til at fange kurvede linjer – men ikke til at lave lige linjer<\/p>\n
Neural network regression<\/h2>\n
Neurale netv\u00e6rk danner ikke en enkelt funktion til at beskrive et output, men bruger mange forskellige formler i et netv\u00e6rk til at beregne et output.<\/p>\n
<\/p>\n
<\/p>\n
<\/p>\n
Matematikken i regression<\/h2>\n
Er overordnet forbundet med optimering. Man \u00f8nsker at algoritmen skal finde den linje, der afviger mindst muligt fra tr\u00e6ningseksemplerne. Ydermere \u00f8nsker man hellere at den afviger lidt for alle punkter, end meget for nogle og intet for andre. Derfor udregnes den optimale kurve ved hj\u00e6lp af rettesnoren “sum of squared distance” – som skal v\u00e6re s\u00e5 lav som muligt, for at give det bedste resultat.<\/p>\n
Backprobagation using gradient descent – at man justerer v\u00e6gtene i neuroner i et Neural Network gradvis vha gradients.<\/p>\n
Praktiske tips<\/h2>\n
- \n
- S\u00e6t wekinator til at bruge “hard values”, for at undg\u00e5 at output rammer udenfor tr\u00e6ningss\u00e6ttets range<\/li>\n
- Eller s\u00e6t den til at outputte integers i stedet for floats<\/li>\n
- Spar tid ved at bruge f\u00e6rre features, noder, hidden layers etc<\/li>\n
- V\u00e6lg en algoritme som modsvarer kompleksiteten af det resultat du vil have<\/li>\n
- <\/li>\n<\/ul>\n
<\/p>\n
<\/p>\n","protected":false},"excerpt":{"rendered":"
Dette indl\u00e6g er egentlig en note til et kursus p\u00e5 Kadenze. En introduktion til Machine Learning. Med et kunstnerisk sigte l\u00e6rer man om hvordan algoritmer kan l\u00e6re fra data – data s\u00e5som gestik, tale og bev\u00e6gelse omformet til 0’er og 1’taller. B\u00e6r alts\u00e5 over med underholdningsv\u00e6rdien i f\u00f8rste omgang – eller pr\u00f8v at f\u00f8lg kurset … L\u00e6s mere <\/a><\/p>\n","protected":false},"author":3,"featured_media":2991,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[1],"tags":[],"class_list":["post-2989","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-ikke-kategoriseret"],"_links":{"self":[{"href":"https:\/\/digitalteknik.slotshaven.it\/wordpress\/wp-json\/wp\/v2\/posts\/2989","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/digitalteknik.slotshaven.it\/wordpress\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/digitalteknik.slotshaven.it\/wordpress\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/digitalteknik.slotshaven.it\/wordpress\/wp-json\/wp\/v2\/users\/3"}],"replies":[{"embeddable":true,"href":"https:\/\/digitalteknik.slotshaven.it\/wordpress\/wp-json\/wp\/v2\/comments?post=2989"}],"version-history":[{"count":0,"href":"https:\/\/digitalteknik.slotshaven.it\/wordpress\/wp-json\/wp\/v2\/posts\/2989\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/digitalteknik.slotshaven.it\/wordpress\/wp-json\/"}],"wp:attachment":[{"href":"https:\/\/digitalteknik.slotshaven.it\/wordpress\/wp-json\/wp\/v2\/media?parent=2989"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/digitalteknik.slotshaven.it\/wordpress\/wp-json\/wp\/v2\/categories?post=2989"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/digitalteknik.slotshaven.it\/wordpress\/wp-json\/wp\/v2\/tags?post=2989"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}
- Classifier eksemplet virker ikke med de forskellige input\/output eksempler – den overtager alle porte..<\/li>\n<\/ul>\n
- Hvilken klassifikations algoritme vil du bruge?<\/li>\n<\/ul>\n
- Jvf eksemplet med webcam input. Som for eksempel har tre “kategorier” eller konfigurationer, som bliver sammenlignet.<\/li>\n<\/ul>\n<\/li>\n<\/ul>\n
- Output<\/li>\n<\/ul>\n