MRI - 31 - Nog even napraten ...

Gisteren zijn de formele winnaars van de competitie bekend gemaakt. Een van hen is in ieder geval een Nederlander,  een fantastische solo prestatie (3e plaats Julian de Wit) .
Wel jammer dat ik toch niet ook aan de 2e ronde heb mee kunnen doen. De registratie hiervan is door het 'tweetraps karakter' van de wedstrijd komen te vervallen. Er zijn wel meer deelnemers die dit heel ongelukkig vinden. Maar ja, volgende keer meer geluk.

Toch aardig om nog even hierover op te scheppen :-) Dat ik, 2 weken voor de afloop, nog even op de 51e plaats heb gestaan! (Ook weer snel eraf :-) Zeker omdat de competitie een van de meest uitdagende van Kaggle tot nu toe was:

Zie deze post van de 'founder en chief executive' van Kaggle:

Hi all, The results on the final leaderboard are now official. Congratulations to the winners and all involved. This is among the hardest and most ambitious competitions we've hosted. We couldn't be prouder of the results. The competition has received some press coverage (with a chance of more to come):http://www.ft.com/intl/cms/s/0/c08a3ccc-f637-11e5-96db-fc683b5e52db.html#axzz44P5BbLRXhttp://www.afr.com/technology/hedge-fund-traders-switch-to-silicon-valley-to-detect-heart-disease-20160330-gntztp Anthony

#8 | Posted 23 hours ago Permalink | Quote | Flag Anthony Goldbloom Kaggle Admin

MRI - 30 - The finish

In het zicht van de finish helaas moeten opgeven ... andere prioriteiten (zbbhh in Italie). Nu ja, het was toch nooit echt de bedoeling om #1 te worden.  De komende week moeten formeel de gebruikte modellen worden bijgeladen wil je met de prijzen meedoen. Dat lijkt ook nog wel een klusje.  Goed om te weten voor een volgende ronde. Het is heel leuk en interessant geweest om mee te doen. Veel geleerd, zowel over deep-learning, Kaggle competities en healthcare media (Dicom ECG) . En leuk dat ik vrijwel aan het einde van de competitie nog even op plaats 51 (top 8%) heb gestaan. (Nu helaas alweer terug naar positie 61). 

Belangrijkste lessen:

• Doe beter aan versie beheer. De originele programma versie van mijn 'top-score' heb ik niet meer. 
• Er is veel ervaring nodig om te bepalen wat werkt of niet werkt. De leer-iteraties nemen veel te lang om volledig met trial and error te werken. Misschien ook eerst meer werken met minder iteraties/epochs en dan die vergelijken. 
• Om meer data te krijgen zonder overfitting worden de afbeeldingen een beetje geschoven en gedraaid. Door dat per iteratie te doen krijg je steeds variatie. (In plaats van 1x vooraf)
• Gelijk een opslag en heropenmechanisme van de weights inbouwen. hierdoor kan je makkelijker kijken of meer leertijd tot betere resultaten leidt.    
• Metadata meevoeren in een Convnet gaat wel maar ook deze mag niet tot 'overfitting' leiden.   
• Zet vroeg een eenvoudige 'productielijn' uit met een eerste submission. Structuur data voorbereiding, training en submission helpen hierbij.   

Goed en vast nog veel meer. Maar daar heb ik tenslotte dit blog voor geschreven. Een handig werkverslag dat mij later hopelijk een keer helpt om echt in de prijzen te vallen. Oh nee ... foutje ... ik doe het niet voor het geld. :-)

MRI - 29 - Blijven watertrappen om niet te verdrinken

Nadat ik positie 51 had verworven ben ik, onlangs verwoede pogingen om toch nog weer beter te scoren, langzaam aan het terugzakken. Nu op positie 60. De tijd dringt. Een poging om gebruik te maken van een NN om de valve positie beter weer te geven mislukt tot nu toe.  Daarvoor heb ik op verschillende wijzen de metadata beter proberen te behouden. Door draaien en schuiven raak je daar een deel van kwijt. Het leidt echter alleen maar tot slechtere scores. Awel, even terug maar weer naar het begin. Nu even een poging om op basis van alleen de sax view, met een kleine vaste correctie, weer een aardig resultaat te boeken. Kijken of we daarnaast nog iets anders kunnen bedenken. Tom poes, verzin een list!