A reduced precision hardware accelerated convolution engine
Snäll, Sakari (2021-05-24)
A reduced precision hardware accelerated convolution engine
(24.05.2021)
Julkaisu on tekijänoikeussäännösten alainen. Teosta voi lukea ja tulostaa henkilökohtaista käyttöä varten. Käyttö kaupallisiin tarkoituksiin on kielletty.
suljettu
Julkaisun pysyvä osoite on:
https://urn.fi/URN:NBN:fi-fe2021052832100
https://urn.fi/URN:NBN:fi-fe2021052832100
Tiivistelmä
Technological solutions are used in increasing manner in automating production and supporting everyday life. These solutions often require specialized devices that are controlled by microprocessors. The size and energy efficiency of a smart device are hard constraints that determine how applicable the device is for the use in production.
FitOptiVis is implementing a reference architecture for cyber-physical systems. Such systems often feature low-power devices for better battery life. These systems aim to use as little energy as possible to increase the lifetime of a device. Even though a device is low-power in some tasks it should have high performance to meet real-time constraints. If the frequency of the CPU can not be increased, then the task done needs to be simplified.
Image processing plays a major part in Cyber-Physical Systems. Image processing methods are computationally demanding but the arithmetics of an image processing method can be optimized in many ways. Aggressive optimizations can reduce the quality of the resulting image.
Performing arithmetics in logarithmic domain simplifies multiplications into additions. Reversing data back to a linear domain will lose precision if the decimals are removed. By removing the decimals, the arithmetic operations can be heavily optimized. The optimized computations are not the only reason to utilize logarithm. Data in the logarithmic domain fits into a smaller memory block than data in the linear domain.
This thesis presents an implementation of a hardware-accelerated convolution engine that processes images in a logarithmic domain. The logarithmic engine shows clear advantages over an implementation that does the convolution in the linear domain. Convolution in the logarithmic engine is faster than in the linear engine. The logarithmic engine also uses fewer gates in a circuit. The aggressive optimizations in the logarithmic engine result in quality degradation of produced images. The usability of the lower precision images needs to be researched more. Teknologisia ratkaisuja käytetään kasvavissa määrin automaattisessa tuotannossa ja tukemassa jokapäiväistä elämää. Nämä ratkaisut vaativat usein tiettyyn tehtävään erikoistuneita laitteita, joita ohjaa mikroprosessori. Laitteen koko, suorituskyky ja virrankulutus rajoittavat sen soveltuvuutta tuotannon käyttöön.
FitOptiVis toteuttaa referenssitoteutusta teknofyysisestä järjestelmästä. Teknofyysisessä järjestelmässä pieni virrankulutus on olennaista. Siitä huolimatta, että komponentti käyttää vähän virtaa, sen täytyisi suoriutua tarpeeksi hyvin kelvatakseen tuotannon tarpeisiin. Kun tehokkaampaa komponenttia ei voida käyttää, tehtyä työtä täytyy yksinkertaistaa.
Kuvankäsittelyä käytetään osana teknofyysisiä järjestelmiä. Kuvien digitaalinen käsittely on laskennallisesti vaativaa. Kuvien käsittelyn laskutoimituksia pystytään kuitenkin optimoimaan monella tavalla. Aggressiiviset optimoinnit tapahtuvat tulosten laadun kustannuksella.
Kertolaskut yksinkertaistuvat yhteenlaskuiksi logaritmisessa avaruudessa. Jos logaritmisesta luvusta jätetään desimaaliosuus pois, menetetään tarkkuutta. Siten Laskentaa pystytään kuitenkin yksinkertaistamaan prosessorille suotuisaksi. Yksinkertaisemmat laskut eivät ole ainoa syy miksi logaritmia kannattaa hyödyntää. Logaritminen data mahtuu pienempään muistilohkoon kuin lineaarinen data.
Tässä tutkimuksessa esitetään toteutus rautakiihdytetystä konvoluutiokoneesta, joka käsittelee kuvia logaritmisessa avaruudessa. Toteutettu kone on pienempi piirilevyllä kuin kone, joka suorittaa laskut lineaarisessa avaruudessa. Tutkimuksessa saatiin selville, että käsitteleminen logaritmisessa avaruudessa säästää prosessorin syklejä ja käytettyä mustia. Tuotetut kuvat kuitenkin menettävät tarkkuutta agressivisen optimoinnin takia. Matalamman tarkkuuden kuvien kelvollisuus eri käyttötarkoituksiin vaatii vielä lisää tutkimusta.
FitOptiVis is implementing a reference architecture for cyber-physical systems. Such systems often feature low-power devices for better battery life. These systems aim to use as little energy as possible to increase the lifetime of a device. Even though a device is low-power in some tasks it should have high performance to meet real-time constraints. If the frequency of the CPU can not be increased, then the task done needs to be simplified.
Image processing plays a major part in Cyber-Physical Systems. Image processing methods are computationally demanding but the arithmetics of an image processing method can be optimized in many ways. Aggressive optimizations can reduce the quality of the resulting image.
Performing arithmetics in logarithmic domain simplifies multiplications into additions. Reversing data back to a linear domain will lose precision if the decimals are removed. By removing the decimals, the arithmetic operations can be heavily optimized. The optimized computations are not the only reason to utilize logarithm. Data in the logarithmic domain fits into a smaller memory block than data in the linear domain.
This thesis presents an implementation of a hardware-accelerated convolution engine that processes images in a logarithmic domain. The logarithmic engine shows clear advantages over an implementation that does the convolution in the linear domain. Convolution in the logarithmic engine is faster than in the linear engine. The logarithmic engine also uses fewer gates in a circuit. The aggressive optimizations in the logarithmic engine result in quality degradation of produced images. The usability of the lower precision images needs to be researched more.
FitOptiVis toteuttaa referenssitoteutusta teknofyysisestä järjestelmästä. Teknofyysisessä järjestelmässä pieni virrankulutus on olennaista. Siitä huolimatta, että komponentti käyttää vähän virtaa, sen täytyisi suoriutua tarpeeksi hyvin kelvatakseen tuotannon tarpeisiin. Kun tehokkaampaa komponenttia ei voida käyttää, tehtyä työtä täytyy yksinkertaistaa.
Kuvankäsittelyä käytetään osana teknofyysisiä järjestelmiä. Kuvien digitaalinen käsittely on laskennallisesti vaativaa. Kuvien käsittelyn laskutoimituksia pystytään kuitenkin optimoimaan monella tavalla. Aggressiiviset optimoinnit tapahtuvat tulosten laadun kustannuksella.
Kertolaskut yksinkertaistuvat yhteenlaskuiksi logaritmisessa avaruudessa. Jos logaritmisesta luvusta jätetään desimaaliosuus pois, menetetään tarkkuutta. Siten Laskentaa pystytään kuitenkin yksinkertaistamaan prosessorille suotuisaksi. Yksinkertaisemmat laskut eivät ole ainoa syy miksi logaritmia kannattaa hyödyntää. Logaritminen data mahtuu pienempään muistilohkoon kuin lineaarinen data.
Tässä tutkimuksessa esitetään toteutus rautakiihdytetystä konvoluutiokoneesta, joka käsittelee kuvia logaritmisessa avaruudessa. Toteutettu kone on pienempi piirilevyllä kuin kone, joka suorittaa laskut lineaarisessa avaruudessa. Tutkimuksessa saatiin selville, että käsitteleminen logaritmisessa avaruudessa säästää prosessorin syklejä ja käytettyä mustia. Tuotetut kuvat kuitenkin menettävät tarkkuutta agressivisen optimoinnin takia. Matalamman tarkkuuden kuvien kelvollisuus eri käyttötarkoituksiin vaatii vielä lisää tutkimusta.