SlideShare une entreprise Scribd logo
1  sur  85
21.05.2015
3 BOYUTLU NESNELERİN BOYUT HACİM VE AĞIRLIK
ÖLÇÜMLERİNİN RGB-D KAMERA ve LOADCELL
KULLANILARAK TESPİTİ
TEVFİK AKKUŞ
YÜKSEK LİSANS TEZİ
DANIŞMAN
Yrd. Doç. Dr. Savaş DİLİBAL
FEN BİLİMLERİ ENSTİTÜSÜ
MEKATRONİK MÜHENDİSLİĞİ
1
1.1. UÇAKTA KABİN İÇİ BAGAJ BOYUTLARI
1. GİRİŞ ve AMAÇ
2
1.2. MEVCUT BOYUT ve AĞIRLIK ÖLÇÜM SİSTEMİ
3
1.2. MEVCUT BOYUT ve AĞIRLIK ÖLÇÜM SİSTEMİ
4
1.3. RGB-D KAMERA ve YÜK HÜCRESİ KULLANARAK
BOYUT ve AĞIRLIK ÖLÇÜM SİSTEMİ
5
1. Ultrasonik veya IR Alıcı Vericilerle Boyut Ölçüm Yöntemi
2. Kamera + Nokta Lazer Yöntemi
3. Kamera + Çizgi Lazer Yöntemi
4. Kamera + Desen Lazer Yöntemi
5. Passive Stereo Vision Yöntemi (2 Kamera)
6. Active Stereo Vision Yöntemi(2 Kamera +Desen Lazer)
7. IR Led ve Fototransistör Dizisi Yöntemi
8. RGB-D Kamera Yöntemi
2.1. TEMASSIZ BOYUT ve ÖLÇÜM SİSTEMLERİ
2. GENEL BİLGİLER
6
2.1.1. Ultrasonik veya IR Alıcı Vericilerle Boyut Ölçüm Yöntemi
7
Quantronics
Cubiscan 100
2.1.1. Ultrasonik veya IR Alıcı Vericilerle Boyut Ölçüm Yöntemi
8
Aralarındaki mesafe bilinen 2 adet nokta lazer kaynağı ve 1
adet kamera kullanılır.
Nesne üzerine düşen 2 noktanın arasındaki mesafe ve
köşelerden yararlanarak boyut ve hacim ölçümü yapılır.
2.1.2. Kamera + Nokta Lazer Yöntemi
9
Fernandes ve ark., 2006
2.1.3. Kamera + Çizgi Lazer Yöntemi
Bir çizgi lazer kaynağı ve kalibre edilmiş bir kamera kullanılır. Sistemin
çalışabilmesi için, nesnenin veya kamera ve çizgi lazer kaynağının
kontrollü bir şekilde lineer hareket ettirilmesi gerekmektedir.
Bir enkoder yardımıyla nesnenin ne kadar gittiği hesaplanır. Kamera
sürekli fotoğraf çekerek lazer çizgisindeki profil değişikliğinden
faydalanarak, 3 boyutlu nesnenin profilini çıkartır.
10
C:UsersTevfikDesktopTEZ2015_Savunma Sunumu
C:UsersTevfikDesktopTEZ2015_Savunma Sunumu
Bu metotta, boyutları ölçülecek nesne üzerine bir projektör
yardımıyla özel bir desen (genelde çizgiler vb.) düşürülür. Kamera
bu çizgileri algılar. Çizgilerdeki değişim, 3D profili verir.
Çizgi lazer tekniğinde, nesne hareket etmek zorundaydı. Bu
teknikte nesne sabit olup, üzerine tek bir lazer çizgi yerine, pek çok
çizgi aynı anda düşürülmektedir.
2.1.4. Kamera + Desen Lazer Yöntemi
11
İnsan gözü modelinde olduğu gibi, 2 kamera kullanılır. Cisim üzerinde
önceden belirlenen bir desen olması ölçüm doğruluğunu arttırır.
Kameraların arasındaki mesafe ve merkez doğrultu açıları net olarak
bilindiğinden, nesneye ait iki açıdan alınan görüntülerden geometrik
hesaplamalar ile boyutlar bulunabilmektedir.
2.1.5. Passive Stereo Vision Yöntemi (2 Kamera)
12
C:UsersTevfikDesktopTEZ2015_Savunma Sunumu
Bu teknikte, ölçülecek cismin boyutları ve ölçüm hassasiyeti
dikkate alınarak yeteri sıklıkta dizilmiş IR ledler ve tam
karşısında her bir IR ledin gönderdiği ışığı algılayacak
fototransistör dizisi mevcuttur. Bu iki dizi arasından geçen
cisim fototransistörlerce karanlık bölge olarak algılanacağından
cismin alanı hesap edilebilir. Cismin hareket hızı biliniyorsa bu
hız vasıtasıyla hacmine ulaşılabilir.
2.1.7. IR Led ve Fototransistör Dizisi Yöntemi
13
Qian ve Jinping, 2011
Bu teknikte, stereo vision modeli biraz geliştirilerek, araya bir
projektör eklenmiştir. Projektör bir desen oluşturup nesnenin
üzerine gönderir.
Kameralar nesne üzerindeki desen yapısından 3 boyut bilgisini
çıkartır.
2.1.6. Active Stereo Vision Yöntemi (2 Kamera + Desen Lazer)
14
1 adet IR ışık kaynağı, RGB kamera ve derinlik (depth)
kameradan oluşan kompakt bir kameranın cisim üzerine
yerleştirilmesi ile boyut ölçümü yapılır. RGB kameradan
alınan görüntüden nesnenin eni ve boyu görüntü işleme
yöntemleri ile tespit edilir.
IR ışık kaynağının nesneye gönderdiği IR ışıkların nesneye
çarparak yansıması sonucu derinlik kamerasına girer. Işığın
uçuş süresini hesaplayan işlemci her piksele ait derinlik
bilgisini verir.
2.1.8. RGB-D Kamera Yöntemi
15
16
2.1.8. RGB-D Kamera Yöntemi
RGB-D Kamera Bileşenleri
17
2.1.8. RGB-D Kamera Yöntemi
RGB-D Kamera İç Yapısı
18
2.1.8. RGB-D Kamera Yöntemi
Asus Xtion Pro Live Kamera
Kinect For Windows V1 Kamera Kinect For Windows V2 Kamera
Primesense (Apple) Carmine Kamera
19
2.1.8. RGB-D Kamera Yöntemi
RGB-D Kamera Marka ve Modelleri
Creative Senze3D kamera Softkinetic DS325 kamera
Temassız Ölçüm Metodları Karşılaştırma Tablosu
Yöntemler Avantajlar, Dezavantajlar
Ultrasonik veya IR Alıcı
Verici
3 eksene 3 adet sensör koyulmalı. Nesne (0,0,0) noktasına
dayandırılmalı.
Nokta Lazer 2 adet Nokta Lazer Kaynağı ve 1 adet kamera gerekli.
Mekanik Kalibrasyon şart.
Çizgi Lazer Çizgi lazer kaynağı lazım. Tarama için cisim hareket etmeli.
Desen Lazer Desen lazer kaynağı ve kamera gerekli. Görüntü işleme
metodu zor.
Passive Stereo Vision İki adet kamera kullanmak gerekli. Aynı zamanda nesne
desenli olmalı.
Active Stereo Vision 2 adet kamera ve 1 adet desen lazer üreten lazer kaynağı
gerekli. Görüntü işleme metodu zor.
IR Led Fototransistör Cisim hareket etmeli, çözünürlük düşük.
RGB-D Kamera Kompakt yapıdaki 1 adet RGB-D kamera ile kolay ölçüm. 20
21
Lowe, 1987 “Three-Dimensional Object Recognation From Single Two-
Dimensional Images”
2.2. Literatür Araştırması
22
Lowe.1987
Lowe, 1987 “Three-Dimensional Object Recognation From Single Two-
Dimensional Images”
2.2. Literatür Araştırması
23
Qian ve Jinping, 2011 “One-dimension Light Screen Scanning Method of
Measuring the Volume of the Flying Objects”
2.2. Literatür Araştırması
24
Radil ve ark., 2007 “Dimension Measurement of Objects With Circular Cross Section
Using Point Light Sources and An Image Sensor Without Lens”
2.2. Literatür Araştırması
25
Jelinek ve Taylor, 2001 “Reconstruction of Linearly Parameterized Models
From Single Images With a Camera of Unknown Focal Length”
2.2. Literatür Araştırması
26
Fernandes ve ark., 2006 “ Computing Box Dimensions from Single
Perspective Images in Real Time “
2.2. Literatür Araştırması
27
2.2. Literatür Araştırması
Chen ve Aggarwal, 2008 “Recognition of Box-like Objects by Fusing Cues
of Shape and Edges”
28
2.2. Literatür Araştırması
Lloyd ve McCloskey, 2014 “Recognition of 3D Package Shapes for Single
Camera Metrology” adlı çalışmalarında Microsoft Kinect kamera kullanarak,
geometrik şekli düzgün şekillerin dikdörgensel paketlenebilir ebatlarını
ölçmeyi başarmışlardır.
29
2.2. Literatür Araştırması
Lee ve ark. , 2006 “Area and Volume Measurements of Objects with
Irregular Shapes Using Multiple Silhouettes” adlı çalışmalarında bir
döner tabla üzerine yerleştirilen meyveyi motorla çevirmiş, o sırada
meyvenin bir tarafına ışık kaynağı ile aydınlatılmış tam aksi tarafına
CCD kamera yerleştirilerek cismin kameraya yansıyan gölgesinden
alan ve hacim ölçümü yapmışlardır .
30
2.2. Literatür Araştırması
Koç, 2007 “Determination of watermelon volume using ellipsoid
approximation and image processing” adlı çalışmasında tek bir CMOS
kamera altında beyaz zemin üzerine konulan karpuzun yüzey alanı ve
hacmini yüksek doğrulukta ölçüp hesaplayabilmiştir.
31
2.2. Literatür Araştırması
Rashidi ve ark. , 2009 “Cantaloupe Volume Determination through Image
Processing” isimli çalışmalarında Kantalop Kavunu hacmini hesaplamışlardır.
32
2.2. Literatür Araştırması
Khojastehnazhand ve ark., 2008 “Determination of Orange Volume and
Surface Area Using Image Processing Technique” adlı çalışmalarında 510 x
492 piksel çözünürlükte 2 adet CCD RGB kamera ve uygun ışıklandırmayı
kullanarak, portakalın yüzey alanını ve hacmini yüksek doğrulukta ölçmeyi
başarmıştır.
33
2.2. Literatür Araştırması
Siswantoro ve ark., 2014 “Volume Measurement Algorithm for Food Product
with Irregular Shape using Computer Vision Based on Momte Carlo Method.”
adlı çalışmasında aşağıdaki 5 kameralı düzeneği kullanmıştır.
34
Goni ve ark., 2007 “Three-dimensional reconstruction of irregular
foodstuffs” isimli çalışmasında düzgün şekilde olamayan gıda
maddelerinin hacim ve yüzey alanı hesaplaması yapılmıştır.
2.2. Literatür Araştırması
35
Weilin ve Li, 2014 ”Size Estimation of Sweet Onions Using Consumer-Grade
RGB-Depth Sensor” adlı çalışmalarında soğanın boyutlarını ölçmek için
aşağıdaki düzeneği kurmuştur. 1100x600x1100 büyüklüğündeki kabin
içerisine iki duvarında florasan lamba aydınlatması ve soğanı tam yukarıdan
gören 1 adet MS Kinect RGB-D kamera yerleştirilmiştir. Yazılım olarak
Matlab2013b Image Proccessing Toolbox kullanılmıştır .
2.2. Literatür Araştırması
36
Carreira ve ark. ,2013 “Volumetrics - Measuring Free Volumes” adlı
çalışmasında Micrososft Kinect kamera kullanarak 480x640= 307 200 adet
noktadan oluşan nokta buluntundan (depth point cloud) konveyörde
ilerleyen kasaların boş olup olmadığının kontrolü ve tır konteyneri içindeki
boş kalan hacim ölçümü yapmışlardır
2.2. Literatür Araştırması
37
Clarkson ve ark., 2014 “ Assessing the Suitabilty of the Microsoft Kinect for
Calculating Person Specific Parameters “ adlı çalışmalarında insan vücut
hacmini ölçmek için etrafına 4 adet RGB-D ToF kamera yerleştirip her bir
kameranın derinlik nokta bulutundan vücut kesit alanını ve hacmini yüksek
doğrulukta ölçmüşlerdir .
2.2. Literatür Araştırması
38
3. GEREÇ ve YÖNTEM
Yazılım olarak MATLAB kullanılacaktır.
Yapılacak MATLAB GUI ara yüzünde, kameradan alınan RGB görüntü,
derinlik görüntüsü, jetcolor görüntü, en, boy, yükseklik ve hacim
bilgileri, ağırlık bilgisi, hacimsel ağırlık bilgisi, kargo paketi üzerindeki
barkod bilgisi gösterilecektir.
39
3.1. CCD ve CMOS Kameralar Hakkında
Dijital sensörlü kameralar görüntüleri, piksel denilen küçük
kareciklere sığdırır. Görüntünün 1 karesindeki piksel sayısı ne
kadar büyük olursa fotoğrafımız da o kadar büyük olur.
İnsanlar piksel arttıkça görüntü kalitesinin arttığını
zannetmektedir ancak işin aslı öğle değildir. Piksel sadece
fotoğrafın boyutuyla ilgilidir.
5MP bir dijital fotoğraf makinesi üzerinde 2560 x 1920 adet,
yani yaklaşık 5 milyon adet mini sensör bulunur.
40
3.2. CCD (Charged Coupling Devices)
CCD sensörler her piksele ait akım genellikle tek bir çıkış
noktasından aktarılır, voltaja dönüşür, depolanır ve analog
sinyal olarak sensörden dışarı verilir. Böylelikle piksellerin
tümü ışığı yakalamak için kullanılır. Bunun sonucunda da
görüntünün tek tipliliği oluşmuş olur buda resmin kalitesini
etkileyen en önemli etmenlerden birisidir.
41
CMOS (Complimentary Metal Oxide Semiconductor) sensörler,
üzerine düşen fotonları algılamak ve elektriksel sinyale
dönüştürerek iletmek için her pikselde bir çift metal oksit
transistör (MOS) kullanmaktadır. Her piksel birbirinden
bağımsız olarak işlem gördüğü için bu durum esneklik
sağlamaktadır. CMOS sensörün üretim teknikleri mikroçiplerin
üretim teknikleri ile aynıdır. CMOS sensörleri üretmek daha
kolay olduğu için CMOS sensörleri CCD sensörlerinden daha
ucuzdur. CMOS sensörleri dijital kameraların fiyatlarının
düşmesinin sebebidir.
3.3. CMOS (Complimentary Metal Oxide
Semiconductor)
42
3.4. CCD ve CMOS Sensörlü Kameralar Arasındaki Farklar
1. CCD CMOS tan önce üretilmiştir.
2. CCD nin üretimi zor pahalıdır.
3. CCD az parazit üretir.
4. CCD az ışıkta bile kaliteli görüntüler alabilir.
5. CMOS üretimi kolay ve ucuzdur.
6. CMOS daha çok ışığa ihtiyaç duymaktadır.
7. CMOZ daha az enerji tüketir.
8. Kamera üreticileri artık CMOS kullanmaya başlamıştır.
43
4. RESİM FORMATLARI VE DÖNÜŞÜM METODLARI
4.1. RGB (Color Image) Renk Formatı
Işıktaki ana renkler kırmızı, yeşil ve mavidir. Bu üç ana rengin dalga boyu dağılımı
aşağıdadır. Cisimlerden yansıyıp gözümüze giren 700 nm dalga boyundaki ışık
kırmızı, 500 nm dalga boyundaki ışık yeşil, 400 nm dalga boyundaki ışık mavi olarak
algılanır.
44
4.2. Ana ve ara renkler ve RGB uzayı
Alt Renkler: camgöbeği (cyan), magenta ve sarıdır.
Ana Renkler: Kırmızı, yeşil, mavidir.
45
4.3. RGB (Renkli) Görüntü
Her piksel için 8-bit kırmızı+ 8-bit yeşil + 8 bit mavi + 8
bit parlaklık = 32-bit
46
4.4. Gri Seviyeli Görüntü (GreyScale Image )
47
Y=0.299*R + 0.587*G + 0.114*B
Yukarıdaki dönüşüm formülünde kırmızı, mavi ve yeşil renklerin
griye dönüşüm katsayıları 0.333 olmalıydı ama farklı olarak
alınmıştır. Bunun sebebi insan gözündeki koni (cone)
algılayıcılarının kırmızı, yeşil ve mavi renklere duyarlılıklarının
farklı olmasından kaynaklanmaktadır. İnsan beyni gözden gelen
bu üç ana rengin birleşiminden cisimlerin renklerini
oluşturmaktadır.
4.5. RGB görüntüden gri seviyeli görüntüye dönüşüm
48
4.6. Siyah-Beyaz Görüntü (Monochrome, Binary Image)
Siyah beyaz görüntüdeki her piksel binary 0 veya 1
değerinden birisini alır. 0 siyah rengi, 1 ise beyaz rengi temsil
eder.
d, 0-255 arası bizim belirlediğimiz bir eşik değer olmak
üzere gri formatlı resimler binary formatlı reisime şu formül
ile çevrilir .
Ibin(pixel) = 1 eğer Igrey(pixel) ≥ d
Ibin(pixel) = 0 eğer Igrey(pixel) < d
49
5. MATLAB İLE GÖRÜNTÜ İŞLEME
MATLAB programı aşağıdaki görüntü tiplerini destekler.
1. Indexed image,
2. intensity (grayscale) image,
3. RGB image,
4. Binary image.
50
5.1. Indexlenmiş Görüntü (Indexed Images)
4 değişik renkten oluşan yukarıdaki RGB görüntüde kırmızı =0,
mor= 1, mavi=2, turkuaz=3 ile ifade edilebilir. 4 çeşit renkten
oluşan 5x5 matrisli RGB görüntümüzün hafızada kapladığı alan
5x5x(8bit+8bit+8bit)=6350 bit olup, RGB görüntüyü
indekslediğimizde X görüntü matrisi için 5x5x2bit = 50 bit ve
colormap matrisi için 4x8bit= 32 bit, toplamda 82 bitlik bir hafıza
yeterli olmaktadır.
51
5.2. Intensity (Grayscale) gri seviyeli görüntü
5.3. RGB (color) renkli görüntü
5.4. Binary İmage (Logical Image, İkili Görüntü)
Format Açıklama Uzantısı
TIFF Tagged Image File Format .tif, .tiff
JPEG Joint Photographic Expert Group .jpg, .jpeg
GIF Graphics Interchange Format .gif
BMP Windows Bitmap .bmp
PNG Portable Network Graphics .png
XWD X Window Dump .xwd
5.4. MATLAB da görüntü dosya tipleri)
52
6. NESNE TABANLI GÖRÜNTÜ ANALİZ METODLARI
6.1. Piksel Bazlı Görüntü Analizi (Pixel-based segmentation)
6.2. Bölge Bazlı Görüntü Bölütleme (Region-based
segmentation)
Genellikle binary görüntülerde iyi ve hızlı sonuç verir.
Çünkü binary görüntü pikselleri 0 veya 1 binary değerini
aldığından işlem süresi kısadır.
Genellikle gri seviyeli görüntülerde iyi ve hızlı sonuç verir.
Görüntüde ayrıştırma, kaynaştırma, bölge belirleme,
işlemlerinde başarılı sonuç veren bir yöntemdir.
53
6.3. Kenar Bazlı Görüntü Bölütleme (Edge-based
segmentation)
Bir gri seviye resimde gri değerlerindeki süreksizliklere ani
değişiklere dayalı olarak görüntüdeki kenar ve ayrıntıların
belirlenmesine kenar bazlı görüntü bölütleme (edge
segmentation) denir.
6.4. Türev Almaya Dayalı Kenar Belirleme Yöntemleri
Bir görüntü içerisindeki kenarları belirlemek için uygulanabilecek en
verimli yöntemlerden birisi, ani gri seviye değişimlerini tespit
etmektir. Bu amaç için birçok kenar belirleme yönteminin kullandığı
temel yaklaşım, bölgesel türev hesabına dayanır.
54
Bölgesel olarak, görüntünün 1. türevi kenar bölgelerinde en
büyük değer olur (local maximum) ve görüntünün 2. türevi ise
kenar bölgelerinde sıfır değerini üretir. Bölgesel olarak görüntüye
ilişkin 1. ve 2. türevleri hesaplayarak elde edilen lokal maksimum
ve sıfır geçiş noktaları ile ilgili görüntü bölgesi için kenarlar
belirlenmiş olur.
1. türevi kullanan yönteme gradient yöntemi ve 2. türevi
kullanan yönteme laplacian yöntemi denilmektedir. Bu
yöntemleri kullanan en yaygın kenar belirleme algoritmaları:
Roberts, Prewitt, Sobel, Canny kenar belirleme filtreleridir.
6.4. Türev Almaya Dayalı Kenar Belirleme Yöntemleri
55
Mohamed ve ark. “Edges detection in depth images for a
gesture recognition application using a kinect WSN” adlı
çalışmalarında Kinect kameradan alınan derinlik
görüntülerinde kenar belirleme için Robert, Sobel ve
Canny filtrelerini uygulamış ve karanlık ortamlarda Sobel
filtresinin, aydınlık ortamlarda ise Canny filtresinin daha
iyi sonuçlar verdiğini görmüşlerdir. Bu nedenle biz bu
projemizde aydınlık ortamda çalışacağımızdan nesnelerin
kenarlarını tespit etmede Canny filtresini kullanacağız.
6.4. Türev Almaya Dayalı Kenar Belirleme Yöntemleri
56
6.5. MATLAB da Kenar Belirleme Komutları
BW = edge(I,'sobel',thresh)
BW = edge(I,'prewitt',thresh)
[BW = edge(I,'roberts‘, thresh)
BW = edge(I,'canny',thresh)
57
6.5. MATLAB da Kenar Belirleme Komutları
BW = edge(I,'sobel',thresh)
BW = edge(I,'prewitt',thresh)
[BW = edge(I,'roberts‘, thresh)
BW = edge(I,'canny',thresh)
58
X, Y uzaysal düzleminde iki nokta arasındaki uzaklığın nasıl
hesaplanacağı aşağıda gösterilmiştir. Bu hesap bize köşeleri
noktaları bilinen bir nesnenin kenar uzunluğunu hesaplamamızda
yardımcı olacaktır.
6.6. Kenar uzunluğu hesaplama
59
6.7. Açı hesaplama
60
7. PROJEDE KULLANILACAK DONANIMLAR
61
7.1. Kinect for Windows Kamera
62
7.2. Color Stream (Renkli Görüntü Veri Akışı)
Kinect for Windows kamerasının içerisindeki RGB kamera
tarafından alınan görüntü formatları aşağıda
listelenmiştir.
RGB_1280*960*12fps ve RGB_640*480*30fps: 32-
bit/pixel lineer X8R8G8B8 formatında .
63
7.3. RGB Kamera Çözünürlüğü
RGB kamera tarafından 800 mm yükseklikten algılanan
görüntü çözünürlüğü aşağıda hesaplanmıştır.
X=En = [800mm * tan 29]*2 = 886 mm
Y=Boy = [800 mm * tan 23]*2 = 679 mm
886 x 679 /1280 x 960 = 601594/1228800 = 0,49 mm
Bu durumda 1280*960 çözünürlükte RGB görüntünün 80 cm
mesafeden x,y çözünürlüğü = 0,49 mm /pixeldir.
886 mm886 mm
679 mm
64
7.4. Depth Stream (Derinlik Veri Akışı)
65
7.4. Depth Stream (Derinlik Veri Akışı)
Sensör görüş alanı (FOV) içerisinde kalan kameraya en yakın olan nesnenin her
pikseli için (x,y) kordinatlarındaki uzaklığının(z) mm cinsinden derinlik verisini
(Depth Value), 13-bit grayscale data formatında kullanıcıya iletir bu aralığın altında
kalan, sensöre çok yakın (too near) nesneler için 0x0000 verisi, bu aralığın üstünde
kalan sensöre çok uzak , (too far) cisimler için 0x0FFF verisi, bu aralığın içerisinde
tanınmayan, (unkown) nesneler için 0x1FFF verisi kullanıcıya iletilir.
66
7.5. Depth Stream Derinlik Çözünürlüğü:
[0,1,1,0,0,0,1,0,0,0,1,1,1,0,0,0] - 16 bits number
[0,1,1,0,0,0,1,0,0,0,1,1,1] - 13 bits number
[1,1,0,0,0,1,0,0,0,1,1,1] - 12 bits number
Bilinmeyen (unkown) 0x1FFF verisi hariç depth data 12-bit
formatınadır.
12-bit 211 = en fazla 2048 değerini alabilir.
800 mm mesafeden deirinlik verisi çözünürlüğümüz;
800 mm /2048 = 0,4 mm dir.
67
7.5. Depth Stream En-Boy Çözünürlüğü:
886 mm886 mm
679 mm
X=En = [800mm * tan 29]*2 = 886 mm
Y=Boy = [800 mm * tan 23]*2 = 679 mm
886 x 679 /640 x 480 = 601594/307200 = 1,96 mm
Bu durumda 640*480 çözünürlükte Depth görüntünün 80
cm mesafeden x,y çözünürlüğü = 1,96 mm/pikseldir.
68
8. AĞIRLIK ÖLÇÜM SİTEMİ
69
Projemizde KELI firmasına ait 100 kg a kadar hassas ölçüm yapabilen UDB
C3 model yük hücresi (Loadcell) kullanılmıştır.
8.1. Yük Hücresi (Loadcell)
70
8.2. Ağırlık Göstergesi/RS232 Çevirici
RS-232
Çıkışı
Loadcell
Girişi
DC
Adaptör
Girişi
Açma
Kapama
Anahtarı
71
9. PROJEDE KULLANILAN YAZILIMLAR ve ÖZELLİKLERİ
9.1. Kinect SDK 1.7 - 64 bit
Kinect for Windows SDK 1.7, yazılımcılar ve geliştiriciler için Kinect tabanlı
cihazlardan gelen gerçek dünya görüntülerinin bilgisayar ortamında
işlenebilmesi için zengin ve kullanışlı kütüphaneler ve NUI ler sunar. Kinect
for Windows SDK V1.7, Windows7 uyumludur bu yüzden bilgisayarımızın
işletim sistemi Windows7 olmalıdır.
72
9.2. Microsoft SDK 7.1 - 64bit
2009 yılında Microsoft firması tarafından Windows7 işletim
sistemi için piyasaya sürülen Windows SDK for Windows 7,
uygulama geliştirmek isteyen yazılımcılara yardımcı olması için ,
.NET Framework 3.5 SP1, C++ compiler ve kütüphanelerini
(libraries), .h dosyalarını (header files), uygulama örneklerini
(samples), dökümanlarını ve diğer bazı gerekli olan tools’ları
barındırmaktadır
73
9.3. MATLAB 8.2 - R2013b
9.4. MATLAB Image Processing Toolbox
Image Processing Toolbox, görüntü işlemeyle ilgili tüm
fonksiyon ve komutları içinde barındıran MATLAB araç
kutusudur.
Görüntü işleme üzerinde çalışma yapanlar için bu kodlar
sınıflandırılmış ve düzenlemiş olduğundan , bu konuda
çalışanlara çok büyük kolaylık sağlanmıştır.
En çok kullanılan MATLAB Image Processing Toolbox komutları ve
açıklamaları Ek-2 de verilmiştir.
74
9.5. MATLAB Image Aquation Toolbox
Image Acquisition Toolbox, içerdiği adaptörler ve yazılımlar
sayesinde görüntü işleme alanında en çok kullanılan
endüstriyel ve bilimsel kameralar, RGB-D kameralar gibi
görüntü toplama cihazları ile haberleşme amacı ile kullanılır.
Bu toolbox’ı kurmazsak harici görüntü alma cihazlarından
görüntü alıp image proccessing toolbox’ ta işleyemeyiz.
75
10. TÜM DONANIMLARIN BİR ARAYA GETİRİLMESİ
76
11. MATLAB ARAYÜZÜ
77
12. BULGULAR
78
12. BULGULAR
79
13. TARTIŞMA ve SONUÇ
Bu proje ile hava limanlarında yolcuların el bagajları ve kargo
paketlerinin boyut, hacim ve ağırlıklarının RGB-D kamera
kullanılarak temassız olarak ölçümü hedeflenmiş ve proje bu
konuda derinleştirilmiştir.
RGB-D kameraların çalışma prensipleri cisimden aldığı derinlik
ve renkli görüntü yapıları bir deneysel ölçüm düzeneği
oluşturularak incelenmiş, derinlik ve renkli görüntüler MATLAB
ortamında yazılan kod vasıtasıyla işlenmiştir.
80
14. ÇALIŞMAMIZIN ÜSTÜNLÜKLERİ
Problemin Tespiti
1. Havalimanlarında yolcu bagaj ve kargolarının boyut, hacim
ve ağırlık ölçümlerinin halen geleneksel metotlarla (Şerit
metre ve kantar kullanılarak) yapılması.
2. Bazen hatalı ölçümlerin yapılması, hatalı ücretlendirme ve
kargaşa.
3. Yolcuların ölçümler sırasında çok fazla beklemeleri ve bazen
uçağı kaçırma riskinin oluşması.
4. Personelin ölçüm sırasında zaman kaybetmesi ve yoğun iş
temposu.
5. Ölçümlerin veri tabanına girilmemesi.
81
14. ÇALIŞMAMIZIN ÜSTÜNLÜKLERİ
Mevcut Durum
1. Hali hazırda, havalimanlarında yolcu el bagajı ve kargolarının
boyut ölçümleri şerit metre veya özel olarak yapılmış mekanik
bir kafes içerisine sokularak yapılmaktadır.
2. Ağırlık ölçümü ise kantara konularak yapılmaktadır.
82
14. ÇALIŞMAMIZIN ÜSTÜNLÜKLERİ
Yöntemler Avantajlar, Dezavantajlar
Ultrasonik veya IR Alıcı
Verici
3 eksene 3 adet sensör koyulmalı. Nesne (0,0,0) noktasına
dayandırılmalı.
Nokta Lazer 2 adet Nokta Lazer Kaynağı ve 1 adet kamera gerekli. Mekanik
Kalibrasyon şart.
Çizgi Lazer Çizgi lazer kaynağı lazım. Tarama için cisim hareket etmeli.
Desen Lazer Desen lazer kaynağı ve kamera gerekli. Görüntü işleme metodu zor.
Passive Stereo Vision İki adet kamera kullanmak gerekli. Aynı zamanda nesne desenli
olmalı.
Active Stereo Vision 2 adet kamera ve 1 adet desen lazer üreten lazer kaynağı gerekli.
Görüntü işleme metodu zor.
IR Led Fototransistör Cisim hareket etmeli, çözünürlük düşük.
RGB-D Kamera Kompakt yapıdaki 1 adet RGB-D kamera ile kolay ölçüm.
83
14. ÇALIŞMAMIZIN ÜSTÜNLÜKLERİ
1. RGB-D kamera ve loadcell kullanılarak temassız boyut ve hacim
ve ağırlık ölçümünü birlikte gerçekleştiren ilk çalışmadır.
2. Boyut ve hacim ölçümünde tek bir RGB-D kamera kullanılmış ve
lazer ışık kaynağı, projektör ve döner tabla gibi elektromekanik
donanımlar kullanılmadığından sorun çıkarmayan sade bir sistem
oluşturulmuştur.
3. Ölçümü yapılacak nesnenin veya kameranın hareket ettirilmesi
gerekmez.
4. Lazer ışık kaynağı gerektirmez.
5. Hem duran hem de konveyör üzerinde hareket eden nesnelerin
boyut ve hacim ölçümünü yapabilir.
6. Ölçümü yapılacak nesnenin kamera altındaki duruş pozisyonu
önemli değildir. Kamera görüş alanına giren nesneler rahatlıkla
ölçülebilmektedir.
84
14. ÇALIŞMAMIZIN ÜSTÜNLÜKLERİ
7. Boyut, hacim ve ağırlık ölçümünü aynı anda yapan bir ölçüm
sistemidir.
8. Çok hızlı ve doğru ölçümler yapmaktadır.
9. Ölçümü yapılan nesnenin üzerinde barkod etiketi varsa,
sistemimizde bulunan el tipi barkod okuyucu cihaz ile bu etiket
okunabilmektedir.
10. Ölçümü yapılan nesnenin fotoğrafı çekilerek ölçüm ve barkod
bilgisi ile birlikte veri tabanına kaydedilebilmektedir.
11. Yolcu bagajının kaybolması, karışması veya hasar görmesi
durumunda veri tabanından bu bilgiler çağrılarak yolcu bagajı ile
ilgili yukarıda bahsedilen sorunlar daha kolay çözüme
kavuşturulabilecektir.
TEŞEKKÜRLER…
85

Contenu connexe

En vedette

2024 State of Marketing Report – by Hubspot
2024 State of Marketing Report – by Hubspot2024 State of Marketing Report – by Hubspot
2024 State of Marketing Report – by HubspotMarius Sescu
 
Everything You Need To Know About ChatGPT
Everything You Need To Know About ChatGPTEverything You Need To Know About ChatGPT
Everything You Need To Know About ChatGPTExpeed Software
 
Product Design Trends in 2024 | Teenage Engineerings
Product Design Trends in 2024 | Teenage EngineeringsProduct Design Trends in 2024 | Teenage Engineerings
Product Design Trends in 2024 | Teenage EngineeringsPixeldarts
 
How Race, Age and Gender Shape Attitudes Towards Mental Health
How Race, Age and Gender Shape Attitudes Towards Mental HealthHow Race, Age and Gender Shape Attitudes Towards Mental Health
How Race, Age and Gender Shape Attitudes Towards Mental HealthThinkNow
 
AI Trends in Creative Operations 2024 by Artwork Flow.pdf
AI Trends in Creative Operations 2024 by Artwork Flow.pdfAI Trends in Creative Operations 2024 by Artwork Flow.pdf
AI Trends in Creative Operations 2024 by Artwork Flow.pdfmarketingartwork
 
PEPSICO Presentation to CAGNY Conference Feb 2024
PEPSICO Presentation to CAGNY Conference Feb 2024PEPSICO Presentation to CAGNY Conference Feb 2024
PEPSICO Presentation to CAGNY Conference Feb 2024Neil Kimberley
 
Content Methodology: A Best Practices Report (Webinar)
Content Methodology: A Best Practices Report (Webinar)Content Methodology: A Best Practices Report (Webinar)
Content Methodology: A Best Practices Report (Webinar)contently
 
How to Prepare For a Successful Job Search for 2024
How to Prepare For a Successful Job Search for 2024How to Prepare For a Successful Job Search for 2024
How to Prepare For a Successful Job Search for 2024Albert Qian
 
Social Media Marketing Trends 2024 // The Global Indie Insights
Social Media Marketing Trends 2024 // The Global Indie InsightsSocial Media Marketing Trends 2024 // The Global Indie Insights
Social Media Marketing Trends 2024 // The Global Indie InsightsKurio // The Social Media Age(ncy)
 
Trends In Paid Search: Navigating The Digital Landscape In 2024
Trends In Paid Search: Navigating The Digital Landscape In 2024Trends In Paid Search: Navigating The Digital Landscape In 2024
Trends In Paid Search: Navigating The Digital Landscape In 2024Search Engine Journal
 
5 Public speaking tips from TED - Visualized summary
5 Public speaking tips from TED - Visualized summary5 Public speaking tips from TED - Visualized summary
5 Public speaking tips from TED - Visualized summarySpeakerHub
 
ChatGPT and the Future of Work - Clark Boyd
ChatGPT and the Future of Work - Clark Boyd ChatGPT and the Future of Work - Clark Boyd
ChatGPT and the Future of Work - Clark Boyd Clark Boyd
 
Getting into the tech field. what next
Getting into the tech field. what next Getting into the tech field. what next
Getting into the tech field. what next Tessa Mero
 
Google's Just Not That Into You: Understanding Core Updates & Search Intent
Google's Just Not That Into You: Understanding Core Updates & Search IntentGoogle's Just Not That Into You: Understanding Core Updates & Search Intent
Google's Just Not That Into You: Understanding Core Updates & Search IntentLily Ray
 
Time Management & Productivity - Best Practices
Time Management & Productivity -  Best PracticesTime Management & Productivity -  Best Practices
Time Management & Productivity - Best PracticesVit Horky
 
The six step guide to practical project management
The six step guide to practical project managementThe six step guide to practical project management
The six step guide to practical project managementMindGenius
 
Beginners Guide to TikTok for Search - Rachel Pearson - We are Tilt __ Bright...
Beginners Guide to TikTok for Search - Rachel Pearson - We are Tilt __ Bright...Beginners Guide to TikTok for Search - Rachel Pearson - We are Tilt __ Bright...
Beginners Guide to TikTok for Search - Rachel Pearson - We are Tilt __ Bright...RachelPearson36
 

En vedette (20)

2024 State of Marketing Report – by Hubspot
2024 State of Marketing Report – by Hubspot2024 State of Marketing Report – by Hubspot
2024 State of Marketing Report – by Hubspot
 
Everything You Need To Know About ChatGPT
Everything You Need To Know About ChatGPTEverything You Need To Know About ChatGPT
Everything You Need To Know About ChatGPT
 
Product Design Trends in 2024 | Teenage Engineerings
Product Design Trends in 2024 | Teenage EngineeringsProduct Design Trends in 2024 | Teenage Engineerings
Product Design Trends in 2024 | Teenage Engineerings
 
How Race, Age and Gender Shape Attitudes Towards Mental Health
How Race, Age and Gender Shape Attitudes Towards Mental HealthHow Race, Age and Gender Shape Attitudes Towards Mental Health
How Race, Age and Gender Shape Attitudes Towards Mental Health
 
AI Trends in Creative Operations 2024 by Artwork Flow.pdf
AI Trends in Creative Operations 2024 by Artwork Flow.pdfAI Trends in Creative Operations 2024 by Artwork Flow.pdf
AI Trends in Creative Operations 2024 by Artwork Flow.pdf
 
Skeleton Culture Code
Skeleton Culture CodeSkeleton Culture Code
Skeleton Culture Code
 
PEPSICO Presentation to CAGNY Conference Feb 2024
PEPSICO Presentation to CAGNY Conference Feb 2024PEPSICO Presentation to CAGNY Conference Feb 2024
PEPSICO Presentation to CAGNY Conference Feb 2024
 
Content Methodology: A Best Practices Report (Webinar)
Content Methodology: A Best Practices Report (Webinar)Content Methodology: A Best Practices Report (Webinar)
Content Methodology: A Best Practices Report (Webinar)
 
How to Prepare For a Successful Job Search for 2024
How to Prepare For a Successful Job Search for 2024How to Prepare For a Successful Job Search for 2024
How to Prepare For a Successful Job Search for 2024
 
Social Media Marketing Trends 2024 // The Global Indie Insights
Social Media Marketing Trends 2024 // The Global Indie InsightsSocial Media Marketing Trends 2024 // The Global Indie Insights
Social Media Marketing Trends 2024 // The Global Indie Insights
 
Trends In Paid Search: Navigating The Digital Landscape In 2024
Trends In Paid Search: Navigating The Digital Landscape In 2024Trends In Paid Search: Navigating The Digital Landscape In 2024
Trends In Paid Search: Navigating The Digital Landscape In 2024
 
5 Public speaking tips from TED - Visualized summary
5 Public speaking tips from TED - Visualized summary5 Public speaking tips from TED - Visualized summary
5 Public speaking tips from TED - Visualized summary
 
ChatGPT and the Future of Work - Clark Boyd
ChatGPT and the Future of Work - Clark Boyd ChatGPT and the Future of Work - Clark Boyd
ChatGPT and the Future of Work - Clark Boyd
 
Getting into the tech field. what next
Getting into the tech field. what next Getting into the tech field. what next
Getting into the tech field. what next
 
Google's Just Not That Into You: Understanding Core Updates & Search Intent
Google's Just Not That Into You: Understanding Core Updates & Search IntentGoogle's Just Not That Into You: Understanding Core Updates & Search Intent
Google's Just Not That Into You: Understanding Core Updates & Search Intent
 
How to have difficult conversations
How to have difficult conversations How to have difficult conversations
How to have difficult conversations
 
Introduction to Data Science
Introduction to Data ScienceIntroduction to Data Science
Introduction to Data Science
 
Time Management & Productivity - Best Practices
Time Management & Productivity -  Best PracticesTime Management & Productivity -  Best Practices
Time Management & Productivity - Best Practices
 
The six step guide to practical project management
The six step guide to practical project managementThe six step guide to practical project management
The six step guide to practical project management
 
Beginners Guide to TikTok for Search - Rachel Pearson - We are Tilt __ Bright...
Beginners Guide to TikTok for Search - Rachel Pearson - We are Tilt __ Bright...Beginners Guide to TikTok for Search - Rachel Pearson - We are Tilt __ Bright...
Beginners Guide to TikTok for Search - Rachel Pearson - We are Tilt __ Bright...
 

Box volume measurement RGB-D_camera

  • 1. 21.05.2015 3 BOYUTLU NESNELERİN BOYUT HACİM VE AĞIRLIK ÖLÇÜMLERİNİN RGB-D KAMERA ve LOADCELL KULLANILARAK TESPİTİ TEVFİK AKKUŞ YÜKSEK LİSANS TEZİ DANIŞMAN Yrd. Doç. Dr. Savaş DİLİBAL FEN BİLİMLERİ ENSTİTÜSÜ MEKATRONİK MÜHENDİSLİĞİ 1
  • 2. 1.1. UÇAKTA KABİN İÇİ BAGAJ BOYUTLARI 1. GİRİŞ ve AMAÇ 2
  • 3. 1.2. MEVCUT BOYUT ve AĞIRLIK ÖLÇÜM SİSTEMİ 3
  • 4. 1.2. MEVCUT BOYUT ve AĞIRLIK ÖLÇÜM SİSTEMİ 4
  • 5. 1.3. RGB-D KAMERA ve YÜK HÜCRESİ KULLANARAK BOYUT ve AĞIRLIK ÖLÇÜM SİSTEMİ 5
  • 6. 1. Ultrasonik veya IR Alıcı Vericilerle Boyut Ölçüm Yöntemi 2. Kamera + Nokta Lazer Yöntemi 3. Kamera + Çizgi Lazer Yöntemi 4. Kamera + Desen Lazer Yöntemi 5. Passive Stereo Vision Yöntemi (2 Kamera) 6. Active Stereo Vision Yöntemi(2 Kamera +Desen Lazer) 7. IR Led ve Fototransistör Dizisi Yöntemi 8. RGB-D Kamera Yöntemi 2.1. TEMASSIZ BOYUT ve ÖLÇÜM SİSTEMLERİ 2. GENEL BİLGİLER 6
  • 7. 2.1.1. Ultrasonik veya IR Alıcı Vericilerle Boyut Ölçüm Yöntemi 7 Quantronics Cubiscan 100
  • 8. 2.1.1. Ultrasonik veya IR Alıcı Vericilerle Boyut Ölçüm Yöntemi 8
  • 9. Aralarındaki mesafe bilinen 2 adet nokta lazer kaynağı ve 1 adet kamera kullanılır. Nesne üzerine düşen 2 noktanın arasındaki mesafe ve köşelerden yararlanarak boyut ve hacim ölçümü yapılır. 2.1.2. Kamera + Nokta Lazer Yöntemi 9 Fernandes ve ark., 2006
  • 10. 2.1.3. Kamera + Çizgi Lazer Yöntemi Bir çizgi lazer kaynağı ve kalibre edilmiş bir kamera kullanılır. Sistemin çalışabilmesi için, nesnenin veya kamera ve çizgi lazer kaynağının kontrollü bir şekilde lineer hareket ettirilmesi gerekmektedir. Bir enkoder yardımıyla nesnenin ne kadar gittiği hesaplanır. Kamera sürekli fotoğraf çekerek lazer çizgisindeki profil değişikliğinden faydalanarak, 3 boyutlu nesnenin profilini çıkartır. 10 C:UsersTevfikDesktopTEZ2015_Savunma Sunumu C:UsersTevfikDesktopTEZ2015_Savunma Sunumu
  • 11. Bu metotta, boyutları ölçülecek nesne üzerine bir projektör yardımıyla özel bir desen (genelde çizgiler vb.) düşürülür. Kamera bu çizgileri algılar. Çizgilerdeki değişim, 3D profili verir. Çizgi lazer tekniğinde, nesne hareket etmek zorundaydı. Bu teknikte nesne sabit olup, üzerine tek bir lazer çizgi yerine, pek çok çizgi aynı anda düşürülmektedir. 2.1.4. Kamera + Desen Lazer Yöntemi 11
  • 12. İnsan gözü modelinde olduğu gibi, 2 kamera kullanılır. Cisim üzerinde önceden belirlenen bir desen olması ölçüm doğruluğunu arttırır. Kameraların arasındaki mesafe ve merkez doğrultu açıları net olarak bilindiğinden, nesneye ait iki açıdan alınan görüntülerden geometrik hesaplamalar ile boyutlar bulunabilmektedir. 2.1.5. Passive Stereo Vision Yöntemi (2 Kamera) 12 C:UsersTevfikDesktopTEZ2015_Savunma Sunumu
  • 13. Bu teknikte, ölçülecek cismin boyutları ve ölçüm hassasiyeti dikkate alınarak yeteri sıklıkta dizilmiş IR ledler ve tam karşısında her bir IR ledin gönderdiği ışığı algılayacak fototransistör dizisi mevcuttur. Bu iki dizi arasından geçen cisim fototransistörlerce karanlık bölge olarak algılanacağından cismin alanı hesap edilebilir. Cismin hareket hızı biliniyorsa bu hız vasıtasıyla hacmine ulaşılabilir. 2.1.7. IR Led ve Fototransistör Dizisi Yöntemi 13 Qian ve Jinping, 2011
  • 14. Bu teknikte, stereo vision modeli biraz geliştirilerek, araya bir projektör eklenmiştir. Projektör bir desen oluşturup nesnenin üzerine gönderir. Kameralar nesne üzerindeki desen yapısından 3 boyut bilgisini çıkartır. 2.1.6. Active Stereo Vision Yöntemi (2 Kamera + Desen Lazer) 14
  • 15. 1 adet IR ışık kaynağı, RGB kamera ve derinlik (depth) kameradan oluşan kompakt bir kameranın cisim üzerine yerleştirilmesi ile boyut ölçümü yapılır. RGB kameradan alınan görüntüden nesnenin eni ve boyu görüntü işleme yöntemleri ile tespit edilir. IR ışık kaynağının nesneye gönderdiği IR ışıkların nesneye çarparak yansıması sonucu derinlik kamerasına girer. Işığın uçuş süresini hesaplayan işlemci her piksele ait derinlik bilgisini verir. 2.1.8. RGB-D Kamera Yöntemi 15
  • 16. 16 2.1.8. RGB-D Kamera Yöntemi RGB-D Kamera Bileşenleri
  • 17. 17 2.1.8. RGB-D Kamera Yöntemi RGB-D Kamera İç Yapısı
  • 19. Asus Xtion Pro Live Kamera Kinect For Windows V1 Kamera Kinect For Windows V2 Kamera Primesense (Apple) Carmine Kamera 19 2.1.8. RGB-D Kamera Yöntemi RGB-D Kamera Marka ve Modelleri Creative Senze3D kamera Softkinetic DS325 kamera
  • 20. Temassız Ölçüm Metodları Karşılaştırma Tablosu Yöntemler Avantajlar, Dezavantajlar Ultrasonik veya IR Alıcı Verici 3 eksene 3 adet sensör koyulmalı. Nesne (0,0,0) noktasına dayandırılmalı. Nokta Lazer 2 adet Nokta Lazer Kaynağı ve 1 adet kamera gerekli. Mekanik Kalibrasyon şart. Çizgi Lazer Çizgi lazer kaynağı lazım. Tarama için cisim hareket etmeli. Desen Lazer Desen lazer kaynağı ve kamera gerekli. Görüntü işleme metodu zor. Passive Stereo Vision İki adet kamera kullanmak gerekli. Aynı zamanda nesne desenli olmalı. Active Stereo Vision 2 adet kamera ve 1 adet desen lazer üreten lazer kaynağı gerekli. Görüntü işleme metodu zor. IR Led Fototransistör Cisim hareket etmeli, çözünürlük düşük. RGB-D Kamera Kompakt yapıdaki 1 adet RGB-D kamera ile kolay ölçüm. 20
  • 21. 21 Lowe, 1987 “Three-Dimensional Object Recognation From Single Two- Dimensional Images” 2.2. Literatür Araştırması
  • 22. 22 Lowe.1987 Lowe, 1987 “Three-Dimensional Object Recognation From Single Two- Dimensional Images” 2.2. Literatür Araştırması
  • 23. 23 Qian ve Jinping, 2011 “One-dimension Light Screen Scanning Method of Measuring the Volume of the Flying Objects” 2.2. Literatür Araştırması
  • 24. 24 Radil ve ark., 2007 “Dimension Measurement of Objects With Circular Cross Section Using Point Light Sources and An Image Sensor Without Lens” 2.2. Literatür Araştırması
  • 25. 25 Jelinek ve Taylor, 2001 “Reconstruction of Linearly Parameterized Models From Single Images With a Camera of Unknown Focal Length” 2.2. Literatür Araştırması
  • 26. 26 Fernandes ve ark., 2006 “ Computing Box Dimensions from Single Perspective Images in Real Time “ 2.2. Literatür Araştırması
  • 27. 27 2.2. Literatür Araştırması Chen ve Aggarwal, 2008 “Recognition of Box-like Objects by Fusing Cues of Shape and Edges”
  • 28. 28 2.2. Literatür Araştırması Lloyd ve McCloskey, 2014 “Recognition of 3D Package Shapes for Single Camera Metrology” adlı çalışmalarında Microsoft Kinect kamera kullanarak, geometrik şekli düzgün şekillerin dikdörgensel paketlenebilir ebatlarını ölçmeyi başarmışlardır.
  • 29. 29 2.2. Literatür Araştırması Lee ve ark. , 2006 “Area and Volume Measurements of Objects with Irregular Shapes Using Multiple Silhouettes” adlı çalışmalarında bir döner tabla üzerine yerleştirilen meyveyi motorla çevirmiş, o sırada meyvenin bir tarafına ışık kaynağı ile aydınlatılmış tam aksi tarafına CCD kamera yerleştirilerek cismin kameraya yansıyan gölgesinden alan ve hacim ölçümü yapmışlardır .
  • 30. 30 2.2. Literatür Araştırması Koç, 2007 “Determination of watermelon volume using ellipsoid approximation and image processing” adlı çalışmasında tek bir CMOS kamera altında beyaz zemin üzerine konulan karpuzun yüzey alanı ve hacmini yüksek doğrulukta ölçüp hesaplayabilmiştir.
  • 31. 31 2.2. Literatür Araştırması Rashidi ve ark. , 2009 “Cantaloupe Volume Determination through Image Processing” isimli çalışmalarında Kantalop Kavunu hacmini hesaplamışlardır.
  • 32. 32 2.2. Literatür Araştırması Khojastehnazhand ve ark., 2008 “Determination of Orange Volume and Surface Area Using Image Processing Technique” adlı çalışmalarında 510 x 492 piksel çözünürlükte 2 adet CCD RGB kamera ve uygun ışıklandırmayı kullanarak, portakalın yüzey alanını ve hacmini yüksek doğrulukta ölçmeyi başarmıştır.
  • 33. 33 2.2. Literatür Araştırması Siswantoro ve ark., 2014 “Volume Measurement Algorithm for Food Product with Irregular Shape using Computer Vision Based on Momte Carlo Method.” adlı çalışmasında aşağıdaki 5 kameralı düzeneği kullanmıştır.
  • 34. 34 Goni ve ark., 2007 “Three-dimensional reconstruction of irregular foodstuffs” isimli çalışmasında düzgün şekilde olamayan gıda maddelerinin hacim ve yüzey alanı hesaplaması yapılmıştır. 2.2. Literatür Araştırması
  • 35. 35 Weilin ve Li, 2014 ”Size Estimation of Sweet Onions Using Consumer-Grade RGB-Depth Sensor” adlı çalışmalarında soğanın boyutlarını ölçmek için aşağıdaki düzeneği kurmuştur. 1100x600x1100 büyüklüğündeki kabin içerisine iki duvarında florasan lamba aydınlatması ve soğanı tam yukarıdan gören 1 adet MS Kinect RGB-D kamera yerleştirilmiştir. Yazılım olarak Matlab2013b Image Proccessing Toolbox kullanılmıştır . 2.2. Literatür Araştırması
  • 36. 36 Carreira ve ark. ,2013 “Volumetrics - Measuring Free Volumes” adlı çalışmasında Micrososft Kinect kamera kullanarak 480x640= 307 200 adet noktadan oluşan nokta buluntundan (depth point cloud) konveyörde ilerleyen kasaların boş olup olmadığının kontrolü ve tır konteyneri içindeki boş kalan hacim ölçümü yapmışlardır 2.2. Literatür Araştırması
  • 37. 37 Clarkson ve ark., 2014 “ Assessing the Suitabilty of the Microsoft Kinect for Calculating Person Specific Parameters “ adlı çalışmalarında insan vücut hacmini ölçmek için etrafına 4 adet RGB-D ToF kamera yerleştirip her bir kameranın derinlik nokta bulutundan vücut kesit alanını ve hacmini yüksek doğrulukta ölçmüşlerdir . 2.2. Literatür Araştırması
  • 38. 38 3. GEREÇ ve YÖNTEM Yazılım olarak MATLAB kullanılacaktır. Yapılacak MATLAB GUI ara yüzünde, kameradan alınan RGB görüntü, derinlik görüntüsü, jetcolor görüntü, en, boy, yükseklik ve hacim bilgileri, ağırlık bilgisi, hacimsel ağırlık bilgisi, kargo paketi üzerindeki barkod bilgisi gösterilecektir.
  • 39. 39 3.1. CCD ve CMOS Kameralar Hakkında Dijital sensörlü kameralar görüntüleri, piksel denilen küçük kareciklere sığdırır. Görüntünün 1 karesindeki piksel sayısı ne kadar büyük olursa fotoğrafımız da o kadar büyük olur. İnsanlar piksel arttıkça görüntü kalitesinin arttığını zannetmektedir ancak işin aslı öğle değildir. Piksel sadece fotoğrafın boyutuyla ilgilidir. 5MP bir dijital fotoğraf makinesi üzerinde 2560 x 1920 adet, yani yaklaşık 5 milyon adet mini sensör bulunur.
  • 40. 40 3.2. CCD (Charged Coupling Devices) CCD sensörler her piksele ait akım genellikle tek bir çıkış noktasından aktarılır, voltaja dönüşür, depolanır ve analog sinyal olarak sensörden dışarı verilir. Böylelikle piksellerin tümü ışığı yakalamak için kullanılır. Bunun sonucunda da görüntünün tek tipliliği oluşmuş olur buda resmin kalitesini etkileyen en önemli etmenlerden birisidir.
  • 41. 41 CMOS (Complimentary Metal Oxide Semiconductor) sensörler, üzerine düşen fotonları algılamak ve elektriksel sinyale dönüştürerek iletmek için her pikselde bir çift metal oksit transistör (MOS) kullanmaktadır. Her piksel birbirinden bağımsız olarak işlem gördüğü için bu durum esneklik sağlamaktadır. CMOS sensörün üretim teknikleri mikroçiplerin üretim teknikleri ile aynıdır. CMOS sensörleri üretmek daha kolay olduğu için CMOS sensörleri CCD sensörlerinden daha ucuzdur. CMOS sensörleri dijital kameraların fiyatlarının düşmesinin sebebidir. 3.3. CMOS (Complimentary Metal Oxide Semiconductor)
  • 42. 42 3.4. CCD ve CMOS Sensörlü Kameralar Arasındaki Farklar 1. CCD CMOS tan önce üretilmiştir. 2. CCD nin üretimi zor pahalıdır. 3. CCD az parazit üretir. 4. CCD az ışıkta bile kaliteli görüntüler alabilir. 5. CMOS üretimi kolay ve ucuzdur. 6. CMOS daha çok ışığa ihtiyaç duymaktadır. 7. CMOZ daha az enerji tüketir. 8. Kamera üreticileri artık CMOS kullanmaya başlamıştır.
  • 43. 43 4. RESİM FORMATLARI VE DÖNÜŞÜM METODLARI 4.1. RGB (Color Image) Renk Formatı Işıktaki ana renkler kırmızı, yeşil ve mavidir. Bu üç ana rengin dalga boyu dağılımı aşağıdadır. Cisimlerden yansıyıp gözümüze giren 700 nm dalga boyundaki ışık kırmızı, 500 nm dalga boyundaki ışık yeşil, 400 nm dalga boyundaki ışık mavi olarak algılanır.
  • 44. 44 4.2. Ana ve ara renkler ve RGB uzayı Alt Renkler: camgöbeği (cyan), magenta ve sarıdır. Ana Renkler: Kırmızı, yeşil, mavidir.
  • 45. 45 4.3. RGB (Renkli) Görüntü Her piksel için 8-bit kırmızı+ 8-bit yeşil + 8 bit mavi + 8 bit parlaklık = 32-bit
  • 46. 46 4.4. Gri Seviyeli Görüntü (GreyScale Image )
  • 47. 47 Y=0.299*R + 0.587*G + 0.114*B Yukarıdaki dönüşüm formülünde kırmızı, mavi ve yeşil renklerin griye dönüşüm katsayıları 0.333 olmalıydı ama farklı olarak alınmıştır. Bunun sebebi insan gözündeki koni (cone) algılayıcılarının kırmızı, yeşil ve mavi renklere duyarlılıklarının farklı olmasından kaynaklanmaktadır. İnsan beyni gözden gelen bu üç ana rengin birleşiminden cisimlerin renklerini oluşturmaktadır. 4.5. RGB görüntüden gri seviyeli görüntüye dönüşüm
  • 48. 48 4.6. Siyah-Beyaz Görüntü (Monochrome, Binary Image) Siyah beyaz görüntüdeki her piksel binary 0 veya 1 değerinden birisini alır. 0 siyah rengi, 1 ise beyaz rengi temsil eder. d, 0-255 arası bizim belirlediğimiz bir eşik değer olmak üzere gri formatlı resimler binary formatlı reisime şu formül ile çevrilir . Ibin(pixel) = 1 eğer Igrey(pixel) ≥ d Ibin(pixel) = 0 eğer Igrey(pixel) < d
  • 49. 49 5. MATLAB İLE GÖRÜNTÜ İŞLEME MATLAB programı aşağıdaki görüntü tiplerini destekler. 1. Indexed image, 2. intensity (grayscale) image, 3. RGB image, 4. Binary image.
  • 50. 50 5.1. Indexlenmiş Görüntü (Indexed Images) 4 değişik renkten oluşan yukarıdaki RGB görüntüde kırmızı =0, mor= 1, mavi=2, turkuaz=3 ile ifade edilebilir. 4 çeşit renkten oluşan 5x5 matrisli RGB görüntümüzün hafızada kapladığı alan 5x5x(8bit+8bit+8bit)=6350 bit olup, RGB görüntüyü indekslediğimizde X görüntü matrisi için 5x5x2bit = 50 bit ve colormap matrisi için 4x8bit= 32 bit, toplamda 82 bitlik bir hafıza yeterli olmaktadır.
  • 51. 51 5.2. Intensity (Grayscale) gri seviyeli görüntü 5.3. RGB (color) renkli görüntü 5.4. Binary İmage (Logical Image, İkili Görüntü) Format Açıklama Uzantısı TIFF Tagged Image File Format .tif, .tiff JPEG Joint Photographic Expert Group .jpg, .jpeg GIF Graphics Interchange Format .gif BMP Windows Bitmap .bmp PNG Portable Network Graphics .png XWD X Window Dump .xwd 5.4. MATLAB da görüntü dosya tipleri)
  • 52. 52 6. NESNE TABANLI GÖRÜNTÜ ANALİZ METODLARI 6.1. Piksel Bazlı Görüntü Analizi (Pixel-based segmentation) 6.2. Bölge Bazlı Görüntü Bölütleme (Region-based segmentation) Genellikle binary görüntülerde iyi ve hızlı sonuç verir. Çünkü binary görüntü pikselleri 0 veya 1 binary değerini aldığından işlem süresi kısadır. Genellikle gri seviyeli görüntülerde iyi ve hızlı sonuç verir. Görüntüde ayrıştırma, kaynaştırma, bölge belirleme, işlemlerinde başarılı sonuç veren bir yöntemdir.
  • 53. 53 6.3. Kenar Bazlı Görüntü Bölütleme (Edge-based segmentation) Bir gri seviye resimde gri değerlerindeki süreksizliklere ani değişiklere dayalı olarak görüntüdeki kenar ve ayrıntıların belirlenmesine kenar bazlı görüntü bölütleme (edge segmentation) denir. 6.4. Türev Almaya Dayalı Kenar Belirleme Yöntemleri Bir görüntü içerisindeki kenarları belirlemek için uygulanabilecek en verimli yöntemlerden birisi, ani gri seviye değişimlerini tespit etmektir. Bu amaç için birçok kenar belirleme yönteminin kullandığı temel yaklaşım, bölgesel türev hesabına dayanır.
  • 54. 54 Bölgesel olarak, görüntünün 1. türevi kenar bölgelerinde en büyük değer olur (local maximum) ve görüntünün 2. türevi ise kenar bölgelerinde sıfır değerini üretir. Bölgesel olarak görüntüye ilişkin 1. ve 2. türevleri hesaplayarak elde edilen lokal maksimum ve sıfır geçiş noktaları ile ilgili görüntü bölgesi için kenarlar belirlenmiş olur. 1. türevi kullanan yönteme gradient yöntemi ve 2. türevi kullanan yönteme laplacian yöntemi denilmektedir. Bu yöntemleri kullanan en yaygın kenar belirleme algoritmaları: Roberts, Prewitt, Sobel, Canny kenar belirleme filtreleridir. 6.4. Türev Almaya Dayalı Kenar Belirleme Yöntemleri
  • 55. 55 Mohamed ve ark. “Edges detection in depth images for a gesture recognition application using a kinect WSN” adlı çalışmalarında Kinect kameradan alınan derinlik görüntülerinde kenar belirleme için Robert, Sobel ve Canny filtrelerini uygulamış ve karanlık ortamlarda Sobel filtresinin, aydınlık ortamlarda ise Canny filtresinin daha iyi sonuçlar verdiğini görmüşlerdir. Bu nedenle biz bu projemizde aydınlık ortamda çalışacağımızdan nesnelerin kenarlarını tespit etmede Canny filtresini kullanacağız. 6.4. Türev Almaya Dayalı Kenar Belirleme Yöntemleri
  • 56. 56 6.5. MATLAB da Kenar Belirleme Komutları BW = edge(I,'sobel',thresh) BW = edge(I,'prewitt',thresh) [BW = edge(I,'roberts‘, thresh) BW = edge(I,'canny',thresh)
  • 57. 57 6.5. MATLAB da Kenar Belirleme Komutları BW = edge(I,'sobel',thresh) BW = edge(I,'prewitt',thresh) [BW = edge(I,'roberts‘, thresh) BW = edge(I,'canny',thresh)
  • 58. 58 X, Y uzaysal düzleminde iki nokta arasındaki uzaklığın nasıl hesaplanacağı aşağıda gösterilmiştir. Bu hesap bize köşeleri noktaları bilinen bir nesnenin kenar uzunluğunu hesaplamamızda yardımcı olacaktır. 6.6. Kenar uzunluğu hesaplama
  • 61. 61 7.1. Kinect for Windows Kamera
  • 62. 62 7.2. Color Stream (Renkli Görüntü Veri Akışı) Kinect for Windows kamerasının içerisindeki RGB kamera tarafından alınan görüntü formatları aşağıda listelenmiştir. RGB_1280*960*12fps ve RGB_640*480*30fps: 32- bit/pixel lineer X8R8G8B8 formatında .
  • 63. 63 7.3. RGB Kamera Çözünürlüğü RGB kamera tarafından 800 mm yükseklikten algılanan görüntü çözünürlüğü aşağıda hesaplanmıştır. X=En = [800mm * tan 29]*2 = 886 mm Y=Boy = [800 mm * tan 23]*2 = 679 mm 886 x 679 /1280 x 960 = 601594/1228800 = 0,49 mm Bu durumda 1280*960 çözünürlükte RGB görüntünün 80 cm mesafeden x,y çözünürlüğü = 0,49 mm /pixeldir. 886 mm886 mm 679 mm
  • 64. 64 7.4. Depth Stream (Derinlik Veri Akışı)
  • 65. 65 7.4. Depth Stream (Derinlik Veri Akışı) Sensör görüş alanı (FOV) içerisinde kalan kameraya en yakın olan nesnenin her pikseli için (x,y) kordinatlarındaki uzaklığının(z) mm cinsinden derinlik verisini (Depth Value), 13-bit grayscale data formatında kullanıcıya iletir bu aralığın altında kalan, sensöre çok yakın (too near) nesneler için 0x0000 verisi, bu aralığın üstünde kalan sensöre çok uzak , (too far) cisimler için 0x0FFF verisi, bu aralığın içerisinde tanınmayan, (unkown) nesneler için 0x1FFF verisi kullanıcıya iletilir.
  • 66. 66 7.5. Depth Stream Derinlik Çözünürlüğü: [0,1,1,0,0,0,1,0,0,0,1,1,1,0,0,0] - 16 bits number [0,1,1,0,0,0,1,0,0,0,1,1,1] - 13 bits number [1,1,0,0,0,1,0,0,0,1,1,1] - 12 bits number Bilinmeyen (unkown) 0x1FFF verisi hariç depth data 12-bit formatınadır. 12-bit 211 = en fazla 2048 değerini alabilir. 800 mm mesafeden deirinlik verisi çözünürlüğümüz; 800 mm /2048 = 0,4 mm dir.
  • 67. 67 7.5. Depth Stream En-Boy Çözünürlüğü: 886 mm886 mm 679 mm X=En = [800mm * tan 29]*2 = 886 mm Y=Boy = [800 mm * tan 23]*2 = 679 mm 886 x 679 /640 x 480 = 601594/307200 = 1,96 mm Bu durumda 640*480 çözünürlükte Depth görüntünün 80 cm mesafeden x,y çözünürlüğü = 1,96 mm/pikseldir.
  • 69. 69 Projemizde KELI firmasına ait 100 kg a kadar hassas ölçüm yapabilen UDB C3 model yük hücresi (Loadcell) kullanılmıştır. 8.1. Yük Hücresi (Loadcell)
  • 70. 70 8.2. Ağırlık Göstergesi/RS232 Çevirici RS-232 Çıkışı Loadcell Girişi DC Adaptör Girişi Açma Kapama Anahtarı
  • 71. 71 9. PROJEDE KULLANILAN YAZILIMLAR ve ÖZELLİKLERİ 9.1. Kinect SDK 1.7 - 64 bit Kinect for Windows SDK 1.7, yazılımcılar ve geliştiriciler için Kinect tabanlı cihazlardan gelen gerçek dünya görüntülerinin bilgisayar ortamında işlenebilmesi için zengin ve kullanışlı kütüphaneler ve NUI ler sunar. Kinect for Windows SDK V1.7, Windows7 uyumludur bu yüzden bilgisayarımızın işletim sistemi Windows7 olmalıdır.
  • 72. 72 9.2. Microsoft SDK 7.1 - 64bit 2009 yılında Microsoft firması tarafından Windows7 işletim sistemi için piyasaya sürülen Windows SDK for Windows 7, uygulama geliştirmek isteyen yazılımcılara yardımcı olması için , .NET Framework 3.5 SP1, C++ compiler ve kütüphanelerini (libraries), .h dosyalarını (header files), uygulama örneklerini (samples), dökümanlarını ve diğer bazı gerekli olan tools’ları barındırmaktadır
  • 73. 73 9.3. MATLAB 8.2 - R2013b 9.4. MATLAB Image Processing Toolbox Image Processing Toolbox, görüntü işlemeyle ilgili tüm fonksiyon ve komutları içinde barındıran MATLAB araç kutusudur. Görüntü işleme üzerinde çalışma yapanlar için bu kodlar sınıflandırılmış ve düzenlemiş olduğundan , bu konuda çalışanlara çok büyük kolaylık sağlanmıştır. En çok kullanılan MATLAB Image Processing Toolbox komutları ve açıklamaları Ek-2 de verilmiştir.
  • 74. 74 9.5. MATLAB Image Aquation Toolbox Image Acquisition Toolbox, içerdiği adaptörler ve yazılımlar sayesinde görüntü işleme alanında en çok kullanılan endüstriyel ve bilimsel kameralar, RGB-D kameralar gibi görüntü toplama cihazları ile haberleşme amacı ile kullanılır. Bu toolbox’ı kurmazsak harici görüntü alma cihazlarından görüntü alıp image proccessing toolbox’ ta işleyemeyiz.
  • 75. 75 10. TÜM DONANIMLARIN BİR ARAYA GETİRİLMESİ
  • 79. 79 13. TARTIŞMA ve SONUÇ Bu proje ile hava limanlarında yolcuların el bagajları ve kargo paketlerinin boyut, hacim ve ağırlıklarının RGB-D kamera kullanılarak temassız olarak ölçümü hedeflenmiş ve proje bu konuda derinleştirilmiştir. RGB-D kameraların çalışma prensipleri cisimden aldığı derinlik ve renkli görüntü yapıları bir deneysel ölçüm düzeneği oluşturularak incelenmiş, derinlik ve renkli görüntüler MATLAB ortamında yazılan kod vasıtasıyla işlenmiştir.
  • 80. 80 14. ÇALIŞMAMIZIN ÜSTÜNLÜKLERİ Problemin Tespiti 1. Havalimanlarında yolcu bagaj ve kargolarının boyut, hacim ve ağırlık ölçümlerinin halen geleneksel metotlarla (Şerit metre ve kantar kullanılarak) yapılması. 2. Bazen hatalı ölçümlerin yapılması, hatalı ücretlendirme ve kargaşa. 3. Yolcuların ölçümler sırasında çok fazla beklemeleri ve bazen uçağı kaçırma riskinin oluşması. 4. Personelin ölçüm sırasında zaman kaybetmesi ve yoğun iş temposu. 5. Ölçümlerin veri tabanına girilmemesi.
  • 81. 81 14. ÇALIŞMAMIZIN ÜSTÜNLÜKLERİ Mevcut Durum 1. Hali hazırda, havalimanlarında yolcu el bagajı ve kargolarının boyut ölçümleri şerit metre veya özel olarak yapılmış mekanik bir kafes içerisine sokularak yapılmaktadır. 2. Ağırlık ölçümü ise kantara konularak yapılmaktadır.
  • 82. 82 14. ÇALIŞMAMIZIN ÜSTÜNLÜKLERİ Yöntemler Avantajlar, Dezavantajlar Ultrasonik veya IR Alıcı Verici 3 eksene 3 adet sensör koyulmalı. Nesne (0,0,0) noktasına dayandırılmalı. Nokta Lazer 2 adet Nokta Lazer Kaynağı ve 1 adet kamera gerekli. Mekanik Kalibrasyon şart. Çizgi Lazer Çizgi lazer kaynağı lazım. Tarama için cisim hareket etmeli. Desen Lazer Desen lazer kaynağı ve kamera gerekli. Görüntü işleme metodu zor. Passive Stereo Vision İki adet kamera kullanmak gerekli. Aynı zamanda nesne desenli olmalı. Active Stereo Vision 2 adet kamera ve 1 adet desen lazer üreten lazer kaynağı gerekli. Görüntü işleme metodu zor. IR Led Fototransistör Cisim hareket etmeli, çözünürlük düşük. RGB-D Kamera Kompakt yapıdaki 1 adet RGB-D kamera ile kolay ölçüm.
  • 83. 83 14. ÇALIŞMAMIZIN ÜSTÜNLÜKLERİ 1. RGB-D kamera ve loadcell kullanılarak temassız boyut ve hacim ve ağırlık ölçümünü birlikte gerçekleştiren ilk çalışmadır. 2. Boyut ve hacim ölçümünde tek bir RGB-D kamera kullanılmış ve lazer ışık kaynağı, projektör ve döner tabla gibi elektromekanik donanımlar kullanılmadığından sorun çıkarmayan sade bir sistem oluşturulmuştur. 3. Ölçümü yapılacak nesnenin veya kameranın hareket ettirilmesi gerekmez. 4. Lazer ışık kaynağı gerektirmez. 5. Hem duran hem de konveyör üzerinde hareket eden nesnelerin boyut ve hacim ölçümünü yapabilir. 6. Ölçümü yapılacak nesnenin kamera altındaki duruş pozisyonu önemli değildir. Kamera görüş alanına giren nesneler rahatlıkla ölçülebilmektedir.
  • 84. 84 14. ÇALIŞMAMIZIN ÜSTÜNLÜKLERİ 7. Boyut, hacim ve ağırlık ölçümünü aynı anda yapan bir ölçüm sistemidir. 8. Çok hızlı ve doğru ölçümler yapmaktadır. 9. Ölçümü yapılan nesnenin üzerinde barkod etiketi varsa, sistemimizde bulunan el tipi barkod okuyucu cihaz ile bu etiket okunabilmektedir. 10. Ölçümü yapılan nesnenin fotoğrafı çekilerek ölçüm ve barkod bilgisi ile birlikte veri tabanına kaydedilebilmektedir. 11. Yolcu bagajının kaybolması, karışması veya hasar görmesi durumunda veri tabanından bu bilgiler çağrılarak yolcu bagajı ile ilgili yukarıda bahsedilen sorunlar daha kolay çözüme kavuşturulabilecektir.