2013_10_01_lecture_02

63
Анализ изображений и видео Наталья Васильева [email protected] HP Labs Russia 2 октября 2013, Computer Science Center Лекция 2: Обработка изображений часть 1

description

 

Transcript of 2013_10_01_lecture_02

Page 1: 2013_10_01_lecture_02

Анализ изображений и видео

Наталья Васильева [email protected] HP Labs Russia

2 октября 2013, Computer Science Center

Лекция 2: Обработка изображений – часть 1

Page 2: 2013_10_01_lecture_02

2 © Copyright 2012 Hewlett-Packard Development Company, L.P. The information contained herein is subject to change without notice.

Обработка изображений

Обработка изображений Image Processing

Изображение Изображение

• На входе и выходе – изображения • Результат обработки «лучше» оригинала с точки зрения конкретного применения

• Лучше с эстетической точки зрения • Лучше для последующего анализа

Page 3: 2013_10_01_lecture_02

3 © Copyright 2012 Hewlett-Packard Development Company, L.P. The information contained herein is subject to change without notice.

Пример: построение HDR-изображения

Page 4: 2013_10_01_lecture_02

4 © Copyright 2012 Hewlett-Packard Development Company, L.P. The information contained herein is subject to change without notice.

Примеры: что можно «улучшать»

Шумное Шумное Размытое, не резкое

Слишком темное Слишком светлое Неправильные цвета

Page 5: 2013_10_01_lecture_02

5 © Copyright 2012 Hewlett-Packard Development Company, L.P. The information contained herein is subject to change without notice.

Примеры: «улучшение» для последующего анализа

Выделение краев

Бинаризация Выделение компонент связности

Page 6: 2013_10_01_lecture_02

6 © Copyright 2012 Hewlett-Packard Development Company, L.P. The information contained herein is subject to change without notice.

План лекции

• Пространственная область • Частотная область, преобразование Фурье, спектральный анализ

• Обработка в пространственной области • Обработка в частотной области

Page 7: 2013_10_01_lecture_02

7 © Copyright 2012 Hewlett-Packard Development Company, L.P. The information contained herein is subject to change without notice.

Изображение – двумерная функция

Slide adopted from Fei-Fei Li

• Изображение – функция

• Полутоновое изображение (в градациях серого): – значение интенсивности (яркости) в точке (x,y)

MRRf →2:RRf →2:

),( yxf

• Цветное изображение:

32: RRf →

=

),(),(),(

),(yxbyxgyxr

yxf

Page 8: 2013_10_01_lecture_02

8 © Copyright 2012 Hewlett-Packard Development Company, L.P. The information contained herein is subject to change without notice.

Цифровое изображение – дискретная функция

Page 9: 2013_10_01_lecture_02

9 © Copyright 2012 Hewlett-Packard Development Company, L.P. The information contained herein is subject to change without notice.

Пространственная область

= , ,

f(x,y)

= , ,

Простанственная область – множество пикселей, составляющих изображение

Page 10: 2013_10_01_lecture_02

10 © Copyright 2012 Hewlett-Packard Development Company, L.P. The information contained herein is subject to change without notice.

Представим «одномерную картинку»

0 20 40 60 80 100 120 140 160 180 2000

50

100

150

200

250

300

Page 11: 2013_10_01_lecture_02

11 © Copyright 2012 Hewlett-Packard Development Company, L.P. The information contained herein is subject to change without notice.

1-D изображение

0 50 100 150 200 25020

40

60

80

100

120

140

160

180

200

220

Page 12: 2013_10_01_lecture_02

12 © Copyright 2012 Hewlett-Packard Development Company, L.P. The information contained herein is subject to change without notice.

Частотное представление – основная идея

= ∑

Идея Фурье: любая периодическая функция может быть представлена в виде суммы синусов и косинусов, умноженных на некоторые коэффициенты (ряд Фурье)

Page 13: 2013_10_01_lecture_02

13 © Copyright 2012 Hewlett-Packard Development Company, L.P. The information contained herein is subject to change without notice.

Ряд Фурье

Page 14: 2013_10_01_lecture_02

14 © Copyright 2012 Hewlett-Packard Development Company, L.P. The information contained herein is subject to change without notice.

Пример

Результаты добавления членов ряда Фурье при аппроксимации разрывной кусочно-постоянной функции

Page 15: 2013_10_01_lecture_02

15 © Copyright 2012 Hewlett-Packard Development Company, L.P. The information contained herein is subject to change without notice.

Пример

Slide credit: A. Konushin

Page 16: 2013_10_01_lecture_02

16 © Copyright 2012 Hewlett-Packard Development Company, L.P. The information contained herein is subject to change without notice.

Фурье-спектр (частотный спектр)

Slide credit: A. Konushin

Page 17: 2013_10_01_lecture_02

17 © Copyright 2012 Hewlett-Packard Development Company, L.P. The information contained herein is subject to change without notice.

Преобразование Фурье

Когда функция не является периодической, но площадь под графиком ее модуля конечна, она может быть выражена в виде интегралов от синусов и/или косинусов, умноженных на некоторую весовую функцию – преобразование Фурье. Сигнал, заданный на отрезке – функция с конечной площадью под графиком. Можем продлить сигнал за пределы отрезка и получить периодическую функцию. Преобразование Фурье обратимо: функция, заданная преобразованием Фурье, может быть полностью, без потери информации восстановлена

Page 18: 2013_10_01_lecture_02

18 © Copyright 2012 Hewlett-Packard Development Company, L.P. The information contained herein is subject to change without notice.

Преобразование Фурье

= + +

f(x) F1*g1(x) F2*g2(x) F3*g3(x)

• Преобразование исходного представления изображения, как функции f(x), в частотное представление – набор Fi

• Преобразование обратимо

Page 19: 2013_10_01_lecture_02

19 © Copyright 2012 Hewlett-Packard Development Company, L.P. The information contained herein is subject to change without notice.

Преобразование Фурье

Прямое преобразование Фурье непрерывной фукнции одной переменной f(x):

Обратное преобразование Фурье:

g(x,u)

Page 20: 2013_10_01_lecture_02

20 © Copyright 2012 Hewlett-Packard Development Company, L.P. The information contained herein is subject to change without notice.

Дискретное преобразование Фурье

Обратное преобразование:

Дискретное преобразование Фурье и его обращение всегда существуют!

Существует ускоренный алгоритм вычисления ДПФ – быстрое преобразование Фурье (БПФ, FFT)

Page 21: 2013_10_01_lecture_02

21 © Copyright 2012 Hewlett-Packard Development Company, L.P. The information contained herein is subject to change without notice.

Фурье-спектр

Элементы Фурье-образа – комплексные величины в общем случае

– спектр (модуль) фурье-преобразования

– энергетический спектр фурье-преобразования

– фазовый спектр фурье-преобразования

Page 22: 2013_10_01_lecture_02

22 © Copyright 2012 Hewlett-Packard Development Company, L.P. The information contained herein is subject to change without notice.

Page 23: 2013_10_01_lecture_02

23 © Copyright 2012 Hewlett-Packard Development Company, L.P. The information contained herein is subject to change without notice.

Преобразование Фурье для изображений – основная идея

• Любое изображение может быть представлено, как сумма синусов и косинусов различной амплитуды и частоты

• Частоты слагаемых характеризуют изображение:

• Яркость «сильно скачет» на небольших участках изображения – будут преобладать слагаемые с высокими частотами

• Яркость плавно изменяется – будут преобладать низкие частоты

Page 24: 2013_10_01_lecture_02

24 © Copyright 2012 Hewlett-Packard Development Company, L.P. The information contained herein is subject to change without notice.

Двумерный случай

Базисные функции: g(x, y, u, v)

Обратное преобразование:

Прямое преобразование

-1

-0.5

0

0.5

1

Page 25: 2013_10_01_lecture_02

25 © Copyright 2012 Hewlett-Packard Development Company, L.P. The information contained herein is subject to change without notice.

Визуализация Фурье-спектра

• Фурье-спектр: набор всех |F(u,v)|

• Визуализация спектра – чем выше значение F(u,v), тем «светлее» точка с координатами (u,v)

• Светлый центр спектра – исходное изображение содержит в основном однородные области, без перепадов яркости

• Светлая периферия спектра – изображение содержит много локальных перепадов яркости

http://www1.idc.ac.il/toky/imageproc-10/lectures/fft_2d.pptx

u=0, v=0 u=1, v=0 u=2, v=0 u=-2, v=0 u=-1, v=0

u=0, v=1 u=1, v=1 u=2, v=1 u=-2, v=1 u=-1, v=1

u=0, v=2 u=1, v=2 u=2, v=2 u=-2, v=2 u=-1, v=2

u=0, v=-1 u=1, v=-1 u=2, v=-1 u=-2, v=-1 u=-1, v=-1

u=0, v=-2 u=1, v=-2 u=2, v=-2 u=-2, v=-2 u=-1, v=-2

U

V

Page 26: 2013_10_01_lecture_02

26 © Copyright 2012 Hewlett-Packard Development Company, L.P. The information contained herein is subject to change without notice.

Практические моменты

• Фурье-спектр изображений симметричен, т.к. f(x,y) – вещественная

• Обычная практика – умножение исходной функции на (-1)x+y

для сдвига точки F(0,0) в точку (M/2, N/2)

• F(0,0) – есть средняя яркость исходного изображения

• Обычно в изображениях преобладают низкие частоты. Для улучшения визуализации к фурье-спектру часто применяют логарифмическое преобразование яркости.

Page 27: 2013_10_01_lecture_02

27 © Copyright 2012 Hewlett-Packard Development Company, L.P. The information contained herein is subject to change without notice.

Спектральный анализ Визуализация Фурье-спектра

f(x,y) F(u,v)

Page 28: 2013_10_01_lecture_02

28 © Copyright 2012 Hewlett-Packard Development Company, L.P. The information contained herein is subject to change without notice.

Примеры

Page 29: 2013_10_01_lecture_02

29 © Copyright 2012 Hewlett-Packard Development Company, L.P. The information contained herein is subject to change without notice.

Еще примеры

Page 30: 2013_10_01_lecture_02

30 © Copyright 2012 Hewlett-Packard Development Company, L.P. The information contained herein is subject to change without notice.

Обработка в пространственной области

• Обработка в пространственной области – манипулирование пикселями изображения

• Например, инвертирование

Page 31: 2013_10_01_lecture_02

31 © Copyright 2012 Hewlett-Packard Development Company, L.P. The information contained herein is subject to change without notice.

Пространственная обработка

Все процедуры пространственной обработки описываются уравнением:

f(x,y) – исходное изображение g(x,y) – изображение на выходе, обработанное изображение T – оператор над f, определенный в некоторой окрестности точки (x,y)

Page 32: 2013_10_01_lecture_02

32 © Copyright 2012 Hewlett-Packard Development Company, L.P. The information contained herein is subject to change without notice.

Окрестность точки изображения

Page 33: 2013_10_01_lecture_02

33 © Copyright 2012 Hewlett-Packard Development Company, L.P. The information contained herein is subject to change without notice.

Пространственная обработка

Все процедуры пространственной обработки описываются уравнением:

f(x,y) – исходное изображение g(x,y) – изображение на выходе, обработанное изображение T – оператор над f, определенный в некоторой окрестности точки (x,y) В случае окрестности 1х1: T – функция градационного преобразования вида

s = T(r), s,r – значения яркостей изображений f(x,y), g(x,y) в каждой точке (x,y)

Page 34: 2013_10_01_lecture_02

34 © Copyright 2012 Hewlett-Packard Development Company, L.P. The information contained herein is subject to change without notice.

Градационное преобразование для улучшения контраста

Page 35: 2013_10_01_lecture_02

35 © Copyright 2012 Hewlett-Packard Development Company, L.P. The information contained herein is subject to change without notice.

Основные функции градационных преобразований

Page 36: 2013_10_01_lecture_02

36 © Copyright 2012 Hewlett-Packard Development Company, L.P. The information contained herein is subject to change without notice.

Основные функции градационных преобразований

• Негатив:

• Линейное растяжение:

• Логарифмическое преобразование:

• Степенное преобразование (гамма-коррекция):

γcrs =

)1log( rcs +=

rLs −−= 1

)()1()(minmax

min rrLrrs−−

−=

Page 37: 2013_10_01_lecture_02

37 © Copyright 2012 Hewlett-Packard Development Company, L.P. The information contained herein is subject to change without notice.

Пример кусочно-линейного преобразования

Page 38: 2013_10_01_lecture_02

38 © Copyright 2012 Hewlett-Packard Development Company, L.P. The information contained herein is subject to change without notice.

Пример логарифмического преобразования

Page 39: 2013_10_01_lecture_02

39 © Copyright 2012 Hewlett-Packard Development Company, L.P. The information contained herein is subject to change without notice.

Гистограммы

0

500

1000

1500

2000

2500

3000

3500

0 50 100 150 200 250

0

500

1000

1500

2000

2500

3000

3500

0 50 100 150 200 250

Page 40: 2013_10_01_lecture_02

40 © Copyright 2012 Hewlett-Packard Development Company, L.P. The information contained herein is subject to change without notice.

Гистограммы

0

500

1000

1500

2000

2500

0 50 100 150 200 250

0

500

1000

1500

2000

0 50 100 150 200 250

Page 41: 2013_10_01_lecture_02

41 © Copyright 2012 Hewlett-Packard Development Company, L.P. The information contained herein is subject to change without notice.

Видоизменение гистограмм

• Линейное преобразование – линейное «растяжение» гистограммы, устойчивое растяжение

• Нелинейное преобразование • Эквализация (линеаризция) гистограммы

∑∑==

===

−==

k

i

ik

iirkk

kkr

nnrprTs

Lknnrp

00)()(

1,..,1,0,)(

Page 42: 2013_10_01_lecture_02

42 © Copyright 2012 Hewlett-Packard Development Company, L.P. The information contained herein is subject to change without notice.

Результат эквализации гистограммы

0

500

1000

1500

2000

0 50 100 150 200 250

0

500

1000

1500

2000

2500

3000

3500

0 50 100 150 200 250

0

500

1000

1500

2000

2500

3000

3500

0 50 100 150 200 250

0

500

1000

1500

2000

0 50 100 150 200 250

Page 43: 2013_10_01_lecture_02

43 © Copyright 2012 Hewlett-Packard Development Company, L.P. The information contained herein is subject to change without notice.

Результат эквализации гистограммы

0

500

1000

1500

2000

2500

0 50 100 150 200 250

0

200

400

600

800

1000

1200

1400

1600

1800

2000

0 50 100 150 200 250

0

500

1000

1500

2000

0 50 100 150 200 250

0

200

400

600

800

1000

1200

1400

1600

1800

2000

0 50 100 150 200 250

Page 44: 2013_10_01_lecture_02

44 © Copyright 2012 Hewlett-Packard Development Company, L.P. The information contained herein is subject to change without notice.

Пороговая бинаризация

Светлый объект на темном фоне

Два светлых объекта на темном фоне

Глобальная – порог единый для всех точек изображения Локальная или Динамическая – когда порог зависит от координат точки (x,y) Адаптивная – когда порог зависит от значения яркости в точке I(x,y)

Page 45: 2013_10_01_lecture_02

45 © Copyright 2012 Hewlett-Packard Development Company, L.P. The information contained herein is subject to change without notice.

Глобальная бинаризация

• Выбор порога вручную

• Выбор порога автоматически 1. Случайно выбрать начальное значение порога T0 2. Сегментировать изображение по порогу T0: регионы

G1 и G2 из пикселей со значениями >T0 и ≤ T0 3. Вычислить средние значения µ1 and µ2 для регионов

G1 and G2 4. T1 = 0.5 (µ1 + µ2) 5. Повторять пока | Ti - Ti+1|< Tth

Page 46: 2013_10_01_lecture_02

46 © Copyright 2012 Hewlett-Packard Development Company, L.P. The information contained herein is subject to change without notice.

Примеры бинаризации

Page 47: 2013_10_01_lecture_02

47 © Copyright 2012 Hewlett-Packard Development Company, L.P. The information contained herein is subject to change without notice.

Пространственная фильтрация (свертка изображения с фильтром)

Операция свертки:

f – изображение w – ядро, фильтр g – результат свертки f*w

Свойства: • коммутативность: f*w = w*f • ассоциативность: f*(w1*w2)=(f*w1)*w2 • дистрибутивность по сложению: f*(w1+w2=f*w1 + f*w2 • kf*w = f*kw = k(f*w)

Page 48: 2013_10_01_lecture_02

48 © Copyright 2012 Hewlett-Packard Development Company, L.P. The information contained herein is subject to change without notice.

Теорема о свертке

g = f * h g = f h

implies implies

G = F H G = F * H

Slide: http://www1.idc.ac.il/toky/imageproc-10/lectures/fft_2d.pptx

Page 49: 2013_10_01_lecture_02

49 © Copyright 2012 Hewlett-Packard Development Company, L.P. The information contained herein is subject to change without notice.

Теорема о свертке

Problem in Frequency

Space

Original Problem

Solution in Frequency

Space

Solution of Original Problem

Relatively easy solution

Difficult solution

Fourier Transform

Inverse Fourier Transform

Slide: http://www1.idc.ac.il/toky/imageproc-10/lectures/fft_2d.pptx

Page 50: 2013_10_01_lecture_02

50 © Copyright 2012 Hewlett-Packard Development Company, L.P. The information contained herein is subject to change without notice.

Сглаживание

• Линейные усредняющие фильтры – удаление «случайного шума»

• Фильтры, основанные на порядковых статистиках • Медианный фильтр (подавление шума «соль и перец»)

Page 51: 2013_10_01_lecture_02

51 © Copyright 2012 Hewlett-Packard Development Company, L.P. The information contained herein is subject to change without notice.

Slide credit: Fei-Fei Li

Page 52: 2013_10_01_lecture_02

52 © Copyright 2012 Hewlett-Packard Development Company, L.P. The information contained herein is subject to change without notice.

Slide credit: Fei-Fei Li

Page 53: 2013_10_01_lecture_02

53 © Copyright 2012 Hewlett-Packard Development Company, L.P. The information contained herein is subject to change without notice.

Slide credit: Fei-Fei Li

Page 54: 2013_10_01_lecture_02

54 © Copyright 2012 Hewlett-Packard Development Company, L.P. The information contained herein is subject to change without notice.

Slide credit: Fei-Fei Li

Page 55: 2013_10_01_lecture_02

55 © Copyright 2012 Hewlett-Packard Development Company, L.P. The information contained herein is subject to change without notice.

Сглаживание фильтром Гаусса

Свертка с ядром Гаусса

Page 56: 2013_10_01_lecture_02

56 © Copyright 2012 Hewlett-Packard Development Company, L.P. The information contained herein is subject to change without notice.

Сглаживание фильтром Гаусса: пример

Sigma =1.4 Size = 5

Sigma =2.8 Size = 10

Page 57: 2013_10_01_lecture_02

57 © Copyright 2012 Hewlett-Packard Development Company, L.P. The information contained herein is subject to change without notice.

Слайд: А. Конушин

Page 58: 2013_10_01_lecture_02

58 © Copyright 2012 Hewlett-Packard Development Company, L.P. The information contained herein is subject to change without notice.

Слайд: А. Конушин

Page 59: 2013_10_01_lecture_02

59 © Copyright 2012 Hewlett-Packard Development Company, L.P. The information contained herein is subject to change without notice.

Mexican hat

Page 60: 2013_10_01_lecture_02

60 © Copyright 2012 Hewlett-Packard Development Company, L.P. The information contained herein is subject to change without notice.

Фильтрация в частотной области

Page 61: 2013_10_01_lecture_02

61 © Copyright 2012 Hewlett-Packard Development Company, L.P. The information contained herein is subject to change without notice.

Примеры фильтрации в частотной области

Исходное изображение и его Фурье-спектр

Результат обнуления F(0,0)

Page 62: 2013_10_01_lecture_02

62 © Copyright 2012 Hewlett-Packard Development Company, L.P. The information contained herein is subject to change without notice.

Примеры фильтрации в частотной области

Page 63: 2013_10_01_lecture_02

63 © Copyright 2012 Hewlett-Packard Development Company, L.P. The information contained herein is subject to change without notice.

Заключение

• Пространственная область • Частотная область, преобразование Фурье, теорема о свертке

• Обработка в пространственной и частотной областях • Градационные преобразования (линейные, степенные, логарифмическо, эквализация гистограмм)

• Сглаживание, повышение резкости