R-ohjelmointi.org

Tilastotieteellistä ohjelmointia R-kielellä

Note to self

A quick note on Spark and R

Apache Spark is cluster-computing system with a few add-on tools for added functionality such as SQL queries and machine learning. Spark has an APIs in several languages, one of which is R. There are at least two R packages that implement an interface to Spark. These are SparkR and sparklyr. Package sparklyr makes installing Hadoop, […]

Tags: ,

Posted in Note to self, R-ohjelmointi | No Comments »

Interaktiivinen kuntakartta

R:n karttaominaisuudet parantuvat vuosi vuodelta. Samaten kartta-aineiston saatavuus on viime vuosina oleellisesti parantunut Maanmittauslaitoksen ja Tilastokeskuksen alettua tarjota pohjakarttoja ilmaiseksi. Muun muassa Louhos-blogissa on jo aiemmin katsahdettu suomalaisten kuntien tietojen visualisointiin R:ssä, mutta kirjoittelin tuota muistamatta R:n karttaominaisuuksista myös lyhyen luentomateriaalin. Täydennän luentomateriaalin vielä seuraavalla esityksellä kloropleettikarttojen muodostamisesta Tilastokeskuksen Kuntien avainluvut -tilastosta. Tilastokeskus on toki […]

Posted in Grafiikka, Note to self, R-ohjelmointi | No Comments »

Sensitiivisyys ja spesifisyys ja niiden luottamusvälit

Esimerkiksi laboratoriotestien yhteydessä testin toimivuutta voidaan arvioida monilla erilaisilla suureilla, joista kenties tunnetuimmat ovat sensitiivisyys (herkkyys) ja spesifisyys (tarkkuus). Suureita on paljon muitakin, ja osaa niistä käsiteltiin jo logistisen regression yhteydessä. Jos verrataan uuden laboratoriotestin antamaa tulosta joko standarditestin tulokseen tai testattujen potilaiden tautistatukseen (sairas / terve), saadaan tuloksista taulukoitua seuraavanlainen nelikenttä, jossa luvut ovat […]

Posted in Note to self, R-ohjelmointi | No Comments »

Logistinen regressio

Sisällys Mikä on logistinen regressio? Hieman teoriaa Vedonlyöntisuhde Vetosuhde Vetosuhteen tilastollinen testaaminen Logistinen malli Logistinen regressio R:ssä Aineisto Mallin sovittaminen Mallin sopivuuden mittarit Mallin tulosten tulkinta Mallin tulosten esittäminen Mallin ennusteiden muuntaminen todennäköisyyksiksi Ennustemallin toimivuuden arviointi Mallin valinta Mallien sovittaminen Mallien vertailu Automaattiset menetelmät Erikoistapauksia Ehdollinen logistinen regressio Firthin harhattomampi menetelmä Harrellin lrm-funktio Tulosten visuaalinen […]

Tags: , , ,

Posted in Note to self, R-ohjelmointi | No Comments »

KHO:n vuosikirjapäätökset

Korkein hallinto-oikeus (KHO) valvoo alempien viranomaisten lainkäytön oikeellisuutta, ja se käyttää ylintä tuomiovaltaa hallintolakiin liittyvissä asioissa. KHO julkaisee julkisia päätöksiään muun muassa vuosikirjapäätöksinä. Vuosikirjapäätökset ovat nykyisin kyseltävissä REST API:n kautta. Aineisto on julkaistu CC BY 4.0 -lisenssillä, ja tarkempiin käyttöehtoihin voi tutustua Oikeusministeriön, Aalto-yliopiston ja Edita Publishing Oy:n kehittämä Semanttinen Finlex datapalvelun käyttöehdot-sivulla. Katsotaanpa millaisia […]

Posted in Note to self, R-ohjelmointi, Skriptit | No Comments »

Kuvatiedoston tyypin tunnistaminen

Tämä(kin) postaus sai alkunsa pieleen menneestä visualisoinnista. Yritin alunperin tuottaa R:llä GIF-animaatioon tarvittavia kuvia, mutta onnistuin luomaan samaan kansioon joukon sekalaisia, eri tiedostomuodoissa olevia kuvatiedostoja, joissa ei tietenkään ollut edes tiedostopäätteitä. Piti siis selvittää, mitä kuvia oikein tulikaan generoitua… ImageMagick tunnistaa laajan valikoiman erilaisia kuvatyyppejä vaivatta. Koska se löytyi koneelta, kutsuin sitä suoraan R:stä kullekin […]

Posted in Note to self, R-ohjelmointi, Skriptit | No Comments »

Suomen kartta-aineistot Tilastokeskuksesta

Tilastokeskus tarjoaa avoimen rajapinnan, josta kartta-aineistoja voi siirtää omaan käyttöön esimerkiksi johonkin sopivaan paikkatieto-ohjelmistoon. Kartta-aineistoja voidaan ladata suoraan URL-osoitteiden kautta. Listan tarjolla olevista aineistoista saa avaamalla vaikkapa selaimessa seuraavan linkin: http://geo.stat.fi/geoserver/wfs?service=WFS&request=GetCapabilities&version=1.0.0 . Linkin takaa avautuu listaus aineistoista. Listauksen kentissä Nametagien välissä on kerrottu kunkin aineiston nimi. Kun nimi on tiedossa, itse tiedosto saadaan ladattua vaikkapa […]

Posted in Note to self, R-ohjelmointi | No Comments »

Using sqldf to manipulate data frames and SQLite databases

Sqldf is an R package that offers tools for manipulating tabular data. Tabular data can be either data frames or tables in a database. The next code collection goes through some common manipulations of the data frames covering both the canonical (base-R) and the sqldf ways to implement these manipulations. In addition, the last code […]

Posted in Note to self, R-ohjelmointi | No Comments »

Todennäköisyysfunktiot

R tarjoaa monien todennäköisyysjakaumien kanssa työskentelyyn erilaisia todennäköisyysfunktioita. Funktiot on pääsääntöisesti nimetty seuraavasti: dX – tiheysfunktio (probability distribution function, pdf) pX – kertymäfunktio (cumulative distribution function, cdf) qX – kvantiilifunktio rX – satunnaisgeneraattori jossa X on jakauman nimi, esimerkiksi norm (normaalijakauma), t (t-jakauma), f (f-jakauma) tai binom (binomijakauma). Aloitetaanpa funktiotyyppien läpikäynti käänteisessä järjestyksessä käyttäen t-jakaumaa […]

Posted in Note to self, R-ohjelmointi | No Comments »

Ovatko sanat anagrammeja – kokemuksia funktion kehittämisestä ryhmätyönä

Kokeilimme kolmeen pekkaan, mitä hyötyä voisi olla esimerkiksi R-funktioiden kehittämisestä ryhmätyönä. Valitsimme testiin yksinkertaisen esimerkin: toteutettavan funktion piti testata, ovatko sille syötteenä annetut merkkijonot keskenään anagrammeja. Anagrammeja ovat kaikki ne merkkijonot, jotka ovat permutaatioita samasta merkkijonosta, ja lisäksi muodostavat jonkin ymmärrettävän sanan. Siten esimerkiksi merkkijonot, jotka ovat eri mittaisia tai koostuvat eri kirjaimista eivät voi […]

Posted in Note to self, R-ohjelmointi, Yleistä | No Comments »

Category