Search

Tiivistelmä. Massadatan käytön lisääntyminen, tietokoneiden laskentatehon kasvaminen ja koneoppimismenetelmien kehittyminen ovat johtaneet koneoppimissovellusten yleistymiseen. Nykyään koneoppimista käytetään monissa eri datan analysoimista ja ennustamista vaativissa tehtävissä esimerkiksi puheentunnistuksessa, luonnollisen kielen käsittelyssä, lääketieteellisessä kuvantamisessa, hakukoneissa ja konenäössä. Datasta oppimisen kannalta tärkeimpiä koneoppimisen osa-alueita ovat ohjattu, ohjaamaton ja puoliohjattu oppiminen. Opetettavat koneoppimisen mallit vaativat yleensä valtavan määrän opetusdataa, jotta päästäisiin hyviin tuloksiin. Ohjatussa oppimisessa datan hankkimisen lisäksi jokainen yksittäinen datanäyte tarvitsee luokkatiedon, jonka ihminen joutuu antamaan käsin. Tämä työläs ja aikaavievä kategorisointiprosessi johtaa usein virheisiin, sillä ihmisen on vaikea pysyä johdonmukaisena rajatapausnäytteiden kanssa. Aktiivisessa oppimisessa ihminen osallistuu oppimisprosessiin kategorisoimalla ainoastaan informatiivisimmat datanäytteet. Tässä datan visualisointi voi tukea opetuspäätöksissä ja parantaa tuloksia pienemmällä opetusdatan määrällä. Datan visualisoimista varten kehitettiin Python-ohjelmistotyökalu, joka tuottaa kaksiulotteisia esityksiä. Tämä tuo luokitteluongelman ihmiselle helpommin ymmärrettäväksi samalla pienentäen erityisesti virheellisesti kategorisoitujen näytteiden lukumäärää. Visualisoinneilla nopeutettiin mallin opettamista merkittävästi. MNIST-datalla opetetulla satunnaismetsäluokittelijalla päästiin 80 % luokittelutarkkuuteen 156 opetusnäytteellä ilman visualisointeja ja sama luokittelutarkkuus saavutettiin 134 opetusnäytteellä visualisointeja käyttämällä. Tosielämän epäbalansoidun oksadatan satunnaismetsäluokittelu 60 % Cohenin kappakertoimella vaati 127 näytettä ilman visualisointeja ja 63 näytettä visualisointien kanssa. Tutkimuksen yhteydessä kerätty madonmunanäytteistö luokittui satunnaismetsällä 90 % Cohenin kappakertoimella 95 opetusnäytteellä ilman visualisointeja, mutta visualisointityökalun avulla riitti 65 näytettä. Tämä työ paljasti datan visualisoinnista saatavan edun erityisesti silloin, kun parhaat esitystavat eivät ole tunnettuja käytettävälle datajoukolle.Using data visualization to accelerate active learning. Abstract. The increased use of big data, improved computational power of computers, and the development of machine learning techniques have led to the wider employment of machine learning based applications. For the time being machine learning is used for various data analysis and prediction tasks, for example, speech recognition, natural language processing, image analysis, and search engines. The machine learning approaches include supervised, unsupervised and semi-supervised schemes, each with different level of human effort. Machine learning may require an enormous amount of data to achieve good results. In supervised learning, in addition to data acquisition, each data sample needs to be labeled, which has to be done manually by humans. This laborious and time-consuming annotation operation often leads to errors since for humans it is hard to stay logical while labeling borderline samples. In active learning, humans participate in the learning process by labeling only the most informative data samples. Here data visualization can support in decisions improving results with less training data. In the context of this thesis, an approach and a software tool for visualizing high dimensional data were developed. The solution brings the structure of data easier to understand, and improves the accuracy of labeling. The approach was shown to speed up the training process of random forest classification in three comparable experiments. With MNIST hand written numerals data 80% accuracy was reached with 156 training samples without visualizations, while 134 training samples sufficed with the support of the developed tool. For an unbalanced wood material data set Cohen’s kappa coefficient of 60% was reached with 127 training samples without visualizations, while only 63 were needed with visualizations. For worm egg data gathered during the research reaching Cohen kappa of 90% required only 65 samples using the visualization approach, but otherwise 95. This work demonstrated the advantages of data visualization especially when the best representations for data are not known and are still explored.

Face biometric systems are vulnerable to spoofing attacks because of criminals who are developing different techniques such as print attack, replay attack, 3D mask attack, etc. to easily fool the face recognition systems. To improve the security measures of biometric systems, we propose a simple and effective architecture called sample learning based recurrent neural network (SLRNN). The proposed sample learning is based on sparse filtering which is applied for augmenting the features by leveraging Residual Networks (ResNet). The augmented features form as a sequence, which are fed into a Long Short-Term Memory (LSTM) network for constructing the final representation. We show that for face anti-spoofing task, incorporating sample learning into recurrent structures learn more meaningful representations to LSTM with much fewer model parameters. Experimental studies on MSU and CASIA dataset demonstrate that the proposed SLRNN has a superior performance than state-of-the-art methods used now.

Tässä työssä tutkittiin lähetin- ja vastaanotinpareilla toteutettua älymaalia, josta valmistettiin myös prototyyppi. Älymaalin tehtävä on mitata maaliin menevien laukausten paikkatieto ja nopeus. Lähettimen pulssina käytettiin 10 µs:n pituista kanttiaaltoa, jonka jaksonaika on 100 µs:a. Lähetinpiirin toiminta perustuu kytkimenä käytettyyn MOS-transistoriin, joka pulssittaa LED:ä sen hilalle tulevan ohjaussignaalin avulla. Tämä lähetetty pulssi havaitaan vastaanottimella, jonka valoilmaisimena toimii valodiodi. Kombinaatiologiikan avulla pystytään mittaamaan pallon nopeus ja paikkatieto lähetetystä ja vastaanotetusta pulssista. Vastaanotinpiiri koostuu esivahvistimesta, jälkivahvistimesta, hysteresiskomparaattorista, vastusten jännitejaosta sekä ajuripiiristä. Esivahvistimen kaistanleveys mitoittiin 328 kHz:in ja sen vahvistuksen arvo kaistalla oli 100 dB:ä. Jälkivahvistimen vahvistus oli 21 (26,4 dB) ja sen kaistanleveydeksi saatiin ei-kääntävällä operaatiovahvistinkytkennällä 143 kHz:ä. Logiikkapiiri muodostettiin XOR-portin, AND-portin ja kiikkujen avulla. Aluksi työssä tarkasteltiin, millaisilla piirirakenteilla lähetin-, vastaanotin- ja logiikkapiirit toteutettiin ja mitoitettiin rakenteiden komponenttien arvot. Tämän jälkeen valmistettiin piirilevyt käytännön toteutusta varten. Lopuksi suoritettiin mittaukset. This Bachelor’s Thesis explored the smartgoal which one was implemented with transmitter receiver pairs. The purpose of the smartgoal is to measure the speed and the location of the shots which are going to goal. As the pulse of transmitter has been used 10 µs square wave which has 100 µs period. The performance of transmitter is based on MOS transistor which has been used as a switch. It pulses LED with a control signal which is coming to gate. The transmitted pulse is detected with the receiver, in which the photodiode acts as a photo detector. The speed and the location of the shot can be measured with digital logic gates from transmitted and received pulse. The receiver circuit consists of a preamplifier, a post-amplifier, a comparator with hysteresis and a driver circuit. The bandwidth and gain of the preamplifier was designed to be 328 kHz and 100dB, respectively. The gain of the post-amplifier was 21 (26.4 dB) and its bandwidth implemented with non-inverting amplifier was 143 kHz. The logic circuit was constructed with a XOR-gate, an AND-gate and D-type flip flops. At first, this Bachelor’s Thesis examines which kind of circuit structures transmitter, receiver and logic circuit was implemented. In addition, the values of components were calculated to achieve wanted performances. After that, the circuit boards were manufactured for practical implementation. Finally, the measurements were made.