За хората от форумa занимаващи се с машинно обучение, едно кратко въведение в употребатa на интелските невронни стикове. Ще поствам отделните чати в отделни постове и ще ги ъпдейтвам с времето.

Като за начало малко ресурси и обучение:

Intel webinars
#AI on the egde with computer vision - 6 Weeks AI academy course araund a raspbery Pi and NCS
https://software.intel.com/en-us/ai-aca ... n-movidius
#Other intel webinars
https://software.intel.com/en-us/neural ... /tutorials

OpenVino toolkit
https://software.intel.com/en-us/openvino-toolkit
#documentation about the available pre-trained models
https://software.intel.com/en-us/openvi ... ned-models
#documentation about the delivered examples
https://software.intel.com/en-us/articl ... IE-Samples
https://software.intel.com/en-us/openvi ... de-samples
https://software.intel.com/en-us/iot/re ... ter-system
#how to optimize neural networks for MyriadX
https://software.intel.com/en-us/articl ... g-networks

Model Optimizer
https://software.intel.com/en-us/articl ... lOptimizer
The most importan part of the OpenVINO toolkit. It uses a pre-pretained model to generate an IR intermediate representation of the network consisting of the following files
- xml file describing the network topology
- bin file containing the weights and biases binary data

Forums
#Intel AI academy
https://forums.intel.com/s/topic/0TO0P0 ... uage=en_US
#Computer vision - the official NCS2 and OpenVino forum
https://software.intel.com/en-us/forums/computer-vision

Blog
https://movidius.github.io/blog/

NCS2 Documentation
https://software.intel.com/en-us/neural-compute-stick/get-started
https://software.intel.com/en-us/articl ... te-stick-2
https://software.intel.com/en-us/openvi ... de-samples

MISC
#tiny-YoloV3's Python API sample on NCS1 5fps and NCS2 10fps
https://software.intel.com/en-us/forums ... pic/801761
https://github.com/PINTO0309/OpenVINO-Y ... v3_test.py
#RealSense D435 camera + Neural Compute Stick + MobileNet-SSD + RaspberryPi3
https://ncsforum.movidius.com/discussio ... errypi3/p1
https://github.com/PINTO0309/MobileNet-SSD-RealSense

За тези които по една или друга причина работят във виртуални машини зад прокси следва колекция от срещани подводни камъни.

Ubuntu instalation under Windows with VirtualBox
#intro
http://processors.wiki.ti.com/index.php ... VirtualBox

Issue with VB’s 64 bit support.
#Use this if VB does not show 64 bit Linux images on your 64 bit windows machine

Find and disable every single windows service mentioning Hyper-V or Virtualization or Device Guard. Reboot.
Run 'gpedit.msc' and go to Local Computer Policy > Computer Configuration > Administrative Templates > System > Device Guard > Turn on Virtualization Based Security. Disable it.
Run regedit and remove the following keys
HKEY_LOCAL_MACHINE\System\CurrentControlSet\Control\LSA\LsaCfgFlags HKEY_LOCAL_MACHINE\Software\Policies\Microsoft\Windows\DeviceGuard\EnableVirtualizationBasedSecurity HKEY_LOCAL_MACHINE\Software\Policies\Microsoft\Windows\DeviceGuard\RequirePlatformSecurityFeatures
Run regedit and disable the following key, shall be 0
HKEY_LOCAL_MACHINE\SYSTEM\CurrentControlSet\Control\DeviceGuard\Scenarios\HypervisorEnforcedCodeIntegrity\Enabled

Turn off both credential guard and virt security by running the following from an elevated command prompt
mountvol X: /s
copy %WINDIR%\System32\SecConfig.efi X:\EFI\Microsoft\Boot\SecConfig.efi /Y
bcdedit /create {0cb3b571-2f2e-4343-a879-d86a476d7215} /d "DebugTool" /application osloader
bcdedit /set {0cb3b571-2f2e-4343-a879-d86a476d7215} path "\EFI\Microsoft\Boot\SecConfig.efi"
bcdedit /set {bootmgr} bootsequence {0cb3b571-2f2e-4343-a879-d86a476d7215}
bcdedit /set {0cb3b571-2f2e-4343-a879-d86a476d7215} loadoptions DISABLE-LSA-ISO,DISABLE-VBS
bcdedit /set {0cb3b571-2f2e-4343-a879-d86a476d7215} device partition=X:
mountvol X: /d

Reboot, go into BIOS, verify that any Microsoft Device Guard settings, incl security and credential guard are disabled. Press F3 to confirm

VB Shared Folders
#from the VM go to
Devices -> Insert guest addition CD image

Networking
#Use NAT if you are not planning to run servers
NAT - Your host will act as a router (firewall) and your guests will be on a private subnet. Use this if you are not running servers on the guests.
Bridged - Your guests will get a ip address on the same subnet as your host. Use this if you are running servers on the guest and wish to connect from other computers on the LAN.
Host Only - Sort of a hybrid. As the name implies, with this option you can connect to the guest servers from the host only. Use this for "private" (host only) servers. I use this if I am running a test web server.

Proxy
#Configure Ubuntu for authomatic proxy configuration if your company provides a script
http://[server_name]/[file_path]

#configure the package isntaller
gedit /etc/apt/sources.list
"deb-src http://archive.ubuntu.com/ubuntu lucid restricted main #Added by software-properties"
sudo gedit /etc/apt/apt.conf
Acquire::http::proxy "http://[server_name]:[port_name]";
Acquire::https::proxy "http://[server_name]:[port_name]";
Acquire::ftp::proxy "[server_name]:[port_name]";

#configure pip3 work too
export http_proxy=http://[server_name]:[port_name]
export https_proxy=http://[server_name]:[port_name]
#check that it worked
env| grep proxy
sudo -E pip3 install pyyaml

#configure wget
gedit /etc/wgetrc
use_proxy=yes
http_proxy=http://[server_name]:[port_name]
https_proxy=http://[server_name]:[port_name]
ftp_proxy=http://[server_name]:[port_name]

Limited virtual memory exhausted
#to resolve an issue with limited memory during compliation, reduce the number of jobs configured to run simultaneously in ./demo_squeezenet_download_convert_run.sh and similar scripts. Values greater than 4 creates issue in my single CPU, 2 GB virtual machine
#make -j8 classification_sample
make -j4 classification_sample

OpenVino framework installation
https://software.intel.com/en-us/articl ... tall-linux

tar xvf l_openvino_toolkit_p_2018.5.445_online.tgz
cd l_openvino_toolkit_p_2018.5.445_online
sudo -E ./install_cv_sdk_dependencies.sh
sudo -E ./install_GUI.sh

#OpenVino installed in
/opt/intel/computer_vision_sdk_2018.5.445/

#add the following to ~/.bashrc
source /opt/intel/computer_vision_sdk/bin/setupvars.sh

Configure the NCS USB driver
cat <<EOF > 97-usbboot.rules
SUBSYSTEM=="usb", ATTRS{idProduct}=="2150", ATTRS{idVendor}=="03e7", GROUP="users", MODE="0666", ENV{ID_MM_DEVICE_IGNORE}="1"
SUBSYSTEM=="usb", ATTRS{idProduct}=="2485", ATTRS{idVendor}=="03e7", GROUP="users", MODE="0666", ENV{ID_MM_DEVICE_IGNORE}="1"
SUBSYSTEM=="usb", ATTRS{idProduct}=="f63b", ATTRS{idVendor}=="03e7", GROUP="users", MODE="0666", ENV{ID_MM_DEVICE_IGNORE}="1"
EOF
sudo cp 97-usbboot.rules /etc/udev/rules.d/
sudo udevadm control --reload-rules
sudo udevadm trigger
sudo ldconfig
rm 97-usbboot.rules
#optionaly perofrm a sanity check, this will ensure there are no invalid key/value pair errors. This would indicate an issue with the udev rules
sudo udevadm test /dev/sda
# ensure VPU support
sudo apt install libusb-1.0-0 libboost-program-options1.58.0 libboost-thread1.58.0 libboost-filesystem1.58.0 libssl1.0.0 libudev1 libjson-c2

Run the demos
#Image classification
#first configure the ModelOptimizer for various ML frameworks, incl. Tensorflow, Caffe etc.
cd ~/intel/computer_vision_sdk/deployment_tools/model_optimizer/install_prerequisites/
./install_prerequisites.sh
cd ~/intel/computer_vision_sdk/deployment_tools/demo
./demo_squeezenet_download_convert_run.sh -d MYRIAD

#object detection (traffic camera)
cd ~/intel/computer_vision_sdk/deployment_tools/demo
./demo_security_barrier_camera.sh -d MYRIAD
#run only the inference
cd ~/inference_engine_samples/intel64/Release
./security_barrier_camera_demo -i ~/intel/computer_vision_sdk/deployment_tools/demo/car_1.bmp -d MYRIAD -m ~/intel/computer_vision_sdk/deployment_tools/intel_models/vehicle-license-plate-detection-barrier-0106/FP16/vehicle-license-plate-detection-barrier-0106.xml -d_va MYRIAD -m_va ~/intel/computer_vision_sdk/deployment_tools/intel_models/vehicle-attributes-recognition-barrier-0039/FP16/vehicle-attributes-recognition-barrier-0039.xml -d_lpr MYRIAD -m_lpr ~/intel/computer_vision_sdk/deployment_tools/intel_models/license-plate-recognition-barrier-0001/FP16/license-plate-recognition-barrier-0001.xml

#Face, Emotion, Age, Gender, and Pose Detection (requires a webcam)
cd ~/inference_engine_samples/intel64/Release
./interactive_face_detection_demo -d MYRIAD -m ~/intel/computer_vision_sdk/deployment_tools/intel_models/face-detection-retail-0004/FP16/face-detection-retail-0004.xml -d_ag MYRIAD -m_ag ~/intel/computer_vision_sdk/deployment_tools/intel_models/age-gender-recognition-retail-0013/FP16/age-gender-recognition-retail-0013.xml -d_em MYRIAD -m_em ~/intel/computer_vision_sdk/deployment_tools/intel_models/emotions-recognition-retail-0003/FP16/emotions-recognition-retail-0003.xml -d_hp MYRIAD -m_hp ~/intel/computer_vision_sdk/deployment_tools/intel_models/head-pose-estimation-adas-0001/FP16/head-pose-estimation-adas-0001.xml

Run pre-trained models on NCS2
#Download the pretrained models
cd ~/intel/computer_vision_sdk/deployment_tools/model_downloader
# List what is avilable for OpenVINO
python3 downloader.py --print_all
# download GoogLeNet V2
python3 downloader.py --name googlenet-v2
# the model is available here
model_downloader/classification/googlenet/v2/caffe/googlenet-v2.caffemodel
model_downloader/classification/googlenet/v2/caffe/googlenet-v2.prototxt

#convert the models into IR files
cd ~/intel/computer_vision_sdk/deployment_tools/model_downloader/classification/googlenet/v2/caffe
# init the OpenVINO env
source ~/intel/computer_vision_sdk/bin/setupvars.sh
# Use model optimizer to convert googlenet.caffemodel to IR
mo.py --data_type FP16 --input_model googlenet-v2.caffemodel --input_proto googlenet-v2.prototxt
# the IR file is svailable here
model_downloader/classification/googlenet/v2/caffe/googlenet-v2.bin
model_downloader/classification/googlenet/v2/caffe/googlenet-v2.mapping
model_downloader/classification/googlenet/v2/caffe/googlenet-v2.xml

#Run the IR model
cd ~/intel/computer_vision_sdk/deployment_tools/inference_engine/samples/python_samples
# get a test image
wget -N https://upload.wikimedia.org/wikipedia/ ... n_snow.jpg
# init OpenVino
source ~/intel/computer_vision_sdk/bin/setupvars.sh
# Run an inference on this image using a built-in sample code
python3 classification_sample.py -m ~/intel/computer_vision_sdk/deployment_tools/model_downloader/classification/googlenet/v2/caffe/googlenet-v2.xml -i Felis_catus-cat_on_snow.jpg -d MYRIAD --labels

Това е колекция с полезни идей

#modify images with mogrify. Рesize, blur, crop, despeckle, dither, draw on, flip, join, re-sample, and much more. Overwrites the original image file or writes to a different image file with conversion
mogrify -format bmp 1.jpg

#light image viewer
feh image.jpg

#get random images from Wikimedia
for i in `seq 10`; do wget -qN https://commons.wikimedia.org/wiki/Special:Random/File && wget -q `grep -i fullimagelink File | sed s":.* src=\"\([-a-Z0-9./_%:]*\)\" .*:\1:"`; done

#sudo
sudo usermod -a -G users "$(whoami)"

Hello, world

SqueezeNet в действие, разпозна обектът, но цветът не е бял както казва, а сребрист. Това се дължи на image processing-a. Още не е настроен и преекпонира, което в комбинация със снега си казва думата.

Не виждам причина да има проблем, но много ще се раздвам на приложение,
което да помни разни "умници" от всички категории по-пътя (т.е. аз мога да си ги разделя
на под-категории), но "опасни" е общия знаменател. Т.е. трябва предна и задна камера,
плюс разпознаване на регистрационнен номер, може и радар с автоматично запомняне на всичко "ниско летящо" над текущото ограничение.

Предупреждение от такъв тип ще е доста полезно...

Grubi както подкара идеи викам да споделя какво съм си мислил - анализ на pattern-а на светене на фаровете с цел откриване на разлика спрямо дефинирания в нормите. В смисъл неправилно регулирани фарове, сменени крушки (китайски ксенон) и т.н. Може да се приеме че е на статив на точно определена височина и строго хоризонтално гледаща, или да се ползва AI за да се научи кое е доброто светене и да отбелязва сличаите които се отличават от типичния патерн.
Оффтопик: скоро тествах няколко ALPR системи, както безплатни така и такива с trial възможност за пробване. Впечатлен съм от openALPR, но в комерсиалния им вариант (енджина явно няма много общо с техния отворен такъв). Някой има ли наблюдения за подобни или по-добри като ефективност?

То туй лесно бе - пернишки номер -> категория 1, друг номер -> категория 2 ...

https://www.flir.eu/news-center/press-r ... ra-family/
FLIR Systems Announces Industry-First Deep Learning-Enabled Camera Family

Колегите от Русе си заслужава да се замислят над това.

И естествено не може да мине без китайците.

http://en.huaraytech.com/html/news/news ... 7/167.html


А някои развиваха теориите че китайците могат единствено да крадат готови решения.

интересно червена кола с кьолнски номер и букви GB 007 как ще я разпознае?


уау!
ще и намеря цаката и на тая компания. 'петте очи' ще я обявят, че след сканиране праща номерата на колите на големия брат в Китай и готово.
изобщо - пазарната икономика се оказа хубаво нещо, само когато ти изнася.

HCL,
гигантски списък, благодаря!
боя се, обаче, че е на границата на естествения ми интелект...

А, да не си забравил да постнеш нещо, че от цитираното виждам само как китайци не крадат, ама си купуват хардуер и софтуер от западна фирма. Къде им е революцията - мен ми се струва като точка за хамериканския отбор че са почнали да стискат левчета от такива дето досега са ги крали? Сигурно и един ред не са написали отгоре на кода от израело-хамериканците, ама имали "камера".
Виж кои са мовидиус, кой им ползва продуктите и колко закона дават право на тръмпи да не позволи на тия китайци да получат версии на софта от тая петилетка. Намери колко китайци са в тая фирма (изключвайки такива избягали от червения рай). Реално хардуера като технология не е кой знае какво (е, навряли са доста рам-ец вътре), но въпреки това дръпнатите не могат да направят нищо сравнимо.
Да, могат да сложат MALI-400 примерно, с cortex-А-нещо си (въх, що нямат още свястни ядра за процесори, графика и т.н.?) и да бълват по 40нм 5 доларови чипове. Даже и не ги крадат, ами плащат лицензи на арм и подобни.
Големите им (хуя-ми-се-вей) правят чипове с ... АРМ ядра и графика? Не че е малко, ако ги сравним с Русия примерно са огън, но не са в първата петица технологично. И то в екосистема която не ги задължава легално да ползват само арм, могат да си добавят тяхна архитектура в кърнела и да имат работещ андроид.
Флир имат продукти с мирияд отпреди поне 3 години на пазара - лептон се казва модулчето и се купува за 100 зелени пари.

Да се досетиш, че невронна мрежа може да се сложи в камера и от това да се получи нов продукт също е собствена разработка. Иначе трябва да кажем, че 99.999% от пишещите в този форум само крадат технологии... защото всичките им елементи са вносни И онези 3500 души R&D не вярвам по цял ден само да си клатят краката. За кода не бързай да си толкова сигурен. Защото мога да те зарина със статии за невронни мрежи в които авторите са само китайци.

Къде пише, че тия такайци са се сетили да сложат невронна мрежа в мирияд? Щото тоя чип за такива приложения е РАЗРАБОТВАН изначално и ползван доста отдавна. Той всъщност за по-класически задачи не е подходящ. Или мислиш че само-каращите се тесли ползват някаква аборигенска технология пак на тоя чип отгоре?
То е малко като хипотетичен цитат от "мцу-бг":

Не казвам, че китайците са сложили невронна мрежа в чипа на Интел Myriad. А че са сетили да сложат чип с невронна мрежа в камера за да придобие тя нови потребителски свойства. Това не е кражба на технология а обикновено конструиране, вие го правите непрекъснато. И това че чипа е вносен също го правите непрекъснато, и вие и цял свят и също не е кражба на технология. Обикновено разделение на труда, един прави едно друг друго.

Кражба на технология щеше да бъде ако китайците копират едно към едно топологията на Myriad и почнат да го произвеждат. Но ако те си конструират невронен чип на същият принцип но с друга топология няма да е кражба а собствена разработка. Никой в света не открива топлата вода а стъпва на постиженията на другите. На това се държи прогреса. А за защита на правата си има патенти и съдебни дела.

По този повод статия за защита от reverse engineering на интегралните схеми, т.е. защита от копиране. На времето се разправяше една легенда как нашите копират поредната интегрална схема и четат надпис на нея "Докато вие усвоите производството и ние вече ще сме пуснали следващото поколение". Така че копирането има и полезен ефект, освен ускоряване на прогреса не дава да си лежиш на гърба.

https://habr.com/ru/post/436998/

Именно, ако в статията пишеше как са конструирали аналогичен чип щеше да е новина. Ако пишеше че са измислили алгоритъм, пак добре. Но не виждам да е това ситуацията. И както казах, точно флир имат камери с мовидиус отпреди няколко години на пазара - вътре в камерата, която е няма един кубичен инч.

Така е, с тази специфика че никой западняк не стъпва на китайски рамене (като цяло), по-скоро обратното е типичното - както и в конкретния случай който цитира. Малко като онези от БАН, дето показваха как били направили таблет от малинка, готов дисплей, готов линукс. Т.е. успели да свържат няколко кодирани против обратно включване конектора и да издялкат дървена кутия. По твоята логика и те са напред?
С разликата че патентите от европа/сащ никога не са били защитени в китай - така им работеше "прогреса", и ти го каза с краденето. Ако има някакво развитие и някой западняк е осъдил китайци за кражба, ще ми е полезно и определено по-интересно от научната им дейност.
Без да съм много навътре в темата, но наистина последните години има затруднения да си набавяме някой откровено крадени продукти, които преди китайците с радост продаваха - не знам какво се е променило в законодателството там, но явно нещо ги спира - иначе китаец да може да изкара лев и да се откаже без сериозна принуда няма как да стане. Дали има някаква косвена причина, като например кражбите на интелектуална собственост да пречи на по-големите китайци да продават на запад, не ми е ясно. Може би точно достъпа до технологии е това, което ги е принудило малко да озаптят краденето - може би това е било условие за да получават достъп до по-съвременни технологии. Нещо като нас и евросъюза - искате да цуцате, ще трябва да спазвате някой правила и закони. Или султана дето арестува хиляди полицаи и иска в европата.
Всъщност не изключват да има интелигентни и можещи китайци - само че такива гледат при първа възможност да вземат виза и да емигрират. Оттам насетне само фанатични патриоти биха ги броили за китайци - вече са хамериканци, немци, англичани, канадци и т.н. с китайски произход.