KR102277353B1 - 영상 처리 방법 및 전자 장치 - Google Patents

Abstract

본 발명은 영상 처리 방법 및 전자 장치에 관한 것이다.
다양한 실시 예에 따른 영상 처리 방법은 입력 영상을 처리하기 위한 명령어를 수신하는 동작과, 전자 장치의 상태에 따라 상기 명령어를 수행하기 위해 사용되는 적어도 하나의 영상 처리 유닛을 결정하는 동작과, 상기 결정된 적어도 하나의 영상 처리 유닛에 상기 입력 영상을 분할한 분할 영상을 분배하는 동작과, 상기 적어도 하나의 영상 처리 유닛을 이용하여 상기 분할 영상을 처리하여 결합하는 동작을 포함할 수 있다. 또한 다른 실시 예들이 가능하다.

Description

영상 처리 방법 및 전자 장치{VIDEO PROCESSING METHOD AND ELECTRONIC DEVICE}

본 개시는 전자 장치에 관한 것으로, 다양한 실시 예들은 영상 처리 구성에 관한 것이다.

일반적으로 영상 처리는 영상에 다양한 효과를 적용하는 것으로, 각 픽셀별로 효과를 적용하거나 영상을 주파수로 변환하여 각 주파수 대역에 대한 처리를 수행한다.

이러한 영상 처리와 같이 많은 데이터에 반복되는 연산을 수행하기 위해서 영상 처리 장치에서는 하나 이상의 영상 처리 유닛을 이용하여 영상에 대한 병렬처리를 수행한다. 여기서 영상에 대한 병렬 처리는 호스트 하드웨어 유닛에서 하나 이상의 병렬처리 하드웨어 유닛으로 동일한 명령을 수행하도록 하되, 각 수행에 필요한 데이터를 다르게 할당하는 방식을 의미한다.

종래의 PC 환경에서의 병렬처리 방식은 모바일 단말에서의 병렬처리와 차이가 있다. 예를 들어, 모바일 환경에서의 병렬처리 방식은 모바일 단말의 어플리케이션 프로세서(AP)와 그래픽 처리부(GPU) 등에 따라 지원하는 하드웨어 가속화 부분이 모바일 단말 별로 차이가 크다.

또한 모바일 단말의 배터리 상태, 클럭, 메모리 사용량, 발열 등과 같이 수시로 변하는 상태는 병렬처리 결과에 영향을 끼칠 수 있다.

본 발명의 다양한 실시 예에서는 모바일 단말의 종류에 따라 서로 다른 수준의 병렬처리를 수행하기 위한 영상 처리 방법 및 전자 장치를 제공한다.

본 발명의 실시 예에 따르면, 영상 처리 방법은 입력 영상을 처리하기 위한 명령어를 수신하는 동작과, 전자 장치의 상태에 따라 상기 명령어를 수행하기 위해 사용되는 적어도 하나의 영상 처리 유닛을 결정하는 동작과, 상기 결정된 적어도 하나의 영상 처리 유닛에 상기 입력 영상을 분할한 분할 영상을 분배하는 동작과, 상기 적어도 하나의 영상 처리 유닛을 이용하여 상기 분할 영상을 처리하여 결합하는 동작을 포함할 수 있다.

본 발명의 실시 예들에 따르면 전자 장치는 영상 처리를 수행하는 적어도 하나의 영상 처리 유닛을 포함하는 영상 처리 모듈과, 입력 영상을 처리하기 위한 명령어가 수신되면 전자 장치의 상태에 따라 상기 명령어를 수행하기 위한 적어도 하나의 영상 처리 유닛을 결정하고, 상기 결정된 적어도 하나의 영상 처리 유닛에 상기 입력 영상을 분할한 분할 영상을 분배한 후 상기 적어도 하나의 영상 처리 유닛을 이용하여 상기 분할 영상을 처리하여 결합하는 관리 모듈을 포함할 수 있다.

본 발명의 다양한 실시 예에서는 전자 장치의 다양한 상태에 따라 적어도 하나의 영상 처리 유닛을 이용한 최적화된 영상 처리가 가능하도록 하여 전자 장치의 전력 소모를 줄이고, 영상 처리 속도를 개선할 수 있다.

도 1은 다양한 실시예들에 따른 전자장치를 포함하는 네트워크 환경을 도시한다.
도 2는 다양한 실시예들에 따른 전자 장치의 영상 처리 가속 모듈(170)의 블록도를 도시한다.
도 3은 다양한 실시예에 따른 분배 테이블에 대한 구성도를 도시한다.
도 4는 다양한 실시예에 따른 입력 영상을 처리하는 동작을 도시한다.
도 5는 다양한 실시예들에 따른 전자 장치의 블록도를 도시한다.

이하, 본 발명의 다양한 실시예가 첨부된 도면과 연관되어 기재된다. 본 발명의 다양한 실시예는 다양한 변경을 가할 수 있고 여러 가지 실시예를 가질 수 있는 바, 특정 실시예들이 도면에 예시되고 관련된 상세한 설명이 기재되어 있다. 그러나, 이는 본 발명의 다양한 실시예를 특정한 실시 형태에 대해 한정하려는 것이 아니며, 본 발명의 다양한 실시예의 사상 및 기술 범위에 포함되는 모든 변경 및/또는 균등물 내지 대체물을 포함하는 것으로 이해되어야 한다. 도면의 설명과 관련하여, 유사한 구성요소에 대해서는 유사한 참조 부호가 사용되었다.

본 발명의 다양한 실시예에서 사용될 수 있는“포함한다” 또는 “포함할 수 있다” 등의 표현은 개시(disclosure)된 해당 기능, 동작 또는 구성요소 등의 존재를 가리키며, 추가적인 하나 이상의 기능, 동작 또는 구성요소 등을 제한하지 않는다. 또한, 본 발명의 다양한 실시예에서, "포함하다" 또는 "가지다" 등의 용어는 명세서상에 기재된 특징, 숫자, 단계, 동작, 구성요소, 부품 또는 이들을 조합한 것이 존재함을 지정하려는 것이지, 하나 또는 그 이상의 다른 특징들이나 숫자, 단계, 동작, 구성요소, 부품 또는 이들을 조합한 것들의 존재 또는 부가 가능성을 미리 배제하지 않는 것으로 이해되어야 한다.

본 발명의 다양한 실시예에서 “또는” 등의 표현은 함께 나열된 단어들의 어떠한, 그리고 모든 조합을 포함한다. 예를 들어, “A 또는 B”는, A를 포함할 수도, B를 포함할 수도, 또는 A 와 B 모두를 포함할 수도 있다.

본 발명의 다양한 실시예에서 사용된 “제 1,”“제2,”“첫째,”또는“둘째,”등의 표현들은 다양한 실시예들의 다양한 구성요소들을 수식할 수 있지만, 해당 구성요소들을 한정하지 않는다. 예를 들어, 상기 표현들은 해당 구성요소들의 순서 및/또는 중요도 등을 한정하지 않는다. 상기 표현들은 한 구성요소를 다른 구성요소와 구분하기 위해 사용될 수 있다. 예를 들어, 제1 사용자 기기와 제 2 사용자 기기는 모두 사용자 기기이며, 서로 다른 사용자 기기를 나타낸다. 예를 들어, 본 발명의 다양한 실시예의 권리 범위를 벗어나지 않으면서 제1 구성요소는 제2 구성요소로 명명될 수 있고, 유사하게 제2 구성요소도 제1 구성요소로 명명될 수 있다.

어떤 구성요소가 다른 구성요소에 "연결되어" 있다거나 "접속되어" 있다고 언급된 때에는, 상기 어떤 구성요소가 상기 다른 구성요소에 직접적으로 연결되어 있거나 또는 접속되어 있을 수도 있지만, 상기 어떤 구성요소와 상기 다른 구성요소 사이에 새로운 다른 구성요소가 존재할 수도 있다고 이해되어야 할 것이다. 반면에, 어떤 구성요소가 다른 구성요소에 "직접 연결되어" 있다거나 "직접 접속되어" 있다고 언급된 때에는, 상기 어떤 구성요소와 상기 다른 구성요소 사이에 새로운 다른 구성요소가 존재하지 않는 것으로 이해될 수 있어야 할 것이다.

본 발명의 다양한 실시예에서 사용한 용어는 단지 특정한 실시예를 설명하기 위해 사용된 것으로, 본 발명의 다양한 실시예를 한정하려는 의도가 아니다. 단수의 표현은 문맥상 명백하게 다르게 뜻하지 않는 한, 복수의 표현을 포함한다.

다르게 정의되지 않는 한, 기술적이거나 과학적인 용어를 포함해서 여기서 사용되는 모든 용어들은 본 발명의 다양한 실시예가 속하는 기술 분야에서 통상의 지식을 가진 자에 의해 일반적으로 이해되는 것과 동일한 의미를 가지고 있다. 일반적으로 사용되는 사전에 정의되어 있는 것과 같은 용어들은 관련 기술의 문맥 상 가지는 의미와 일치하는 의미를 가지는 것으로 해석되어야 하며, 본 발명의 다양한 실시예에서 명백하게 정의되지 않는 한, 이상적이거나 과도하게 형식적인 의미로 해석되지 않는다.

본 발명의 다양한 실시예에 따른 전자 장치는, 디스플레이 기능이 포함된 장치일 수 있다. 예를 들면, 전자 장치는 스마트 폰(smartphone), 태블릿 PC(tablet personal computer), 이동 전화기(mobile phone), 화상전화기, 전자북 리더기(e-book reader), 데스크탑 PC(desktop personal computer), 랩탑 PC(laptop personal computer), 넷북 컴퓨터(netbook computer), PDA(personal digital assistant), PMP(portable multimedia player), MP3 플레이어, 모바일 의료기기, 카메라(camera), 또는 웨어러블 장치(wearable device)(예: 전자 안경과 같은 head-mounted-device(HMD), 전자 의복, 전자 팔찌, 전자 목걸이, 전자 앱세서리(appcessory), 전자 문신, 또는 스마트 와치(smart watch))중 적어도 하나를 포함할 수 있다.

어떤 실시예들에 따르면, 전자 장치는 디스플레이 기능을 갖춘 스마트 가전 제품(smart home appliance)일 수 있다. 스마트 가전 제품은, 예를 들자면, 전자 장치는 텔레비전, DVD(digital video disk) 플레이어, 오디오, 냉장고, 에어컨, 청소기, 오븐, 전자레인지, 세탁기, 공기 청정기, 셋톱 박스(set-top box), TV 박스(예를 들면, 삼성 HomeSyncTM, 애플TVTM, 또는 구글 TVTM), 게임 콘솔(game consoles), 전자 사전, 전자 키, 캠코더(camcorder), 또는 전자 액자 중 적어도 하나를 포함할 수 있다.

어떤 실시예들에 따르면, 전자 장치는 각종 의료기기(예: MRA(magnetic resonance angiography), MRI(magnetic resonance imaging), CT(computed tomography), 촬영기, 초음파기 등), 네비게이션(navigation) 장치, GPS 수신기(global positioning system receiver), EDR(event data recorder), FDR(flight data recorder), 자동차 인포테인먼트(infotainment) 장치, 선박용 전자 장비(예: 선박용 항법 장치 및 자이로 콤파스 등), 항공 전자기기(avionics), 보안 기기, 차량용 헤드 유닛, 산업용 또는 가정용 로봇, 금융 기관의 ATM(automatic teller’s machine) 또는 상점의 POS(point of sales) 중 적어도 하나를 포함할 수 있다.

어떤 실시예들에 따르면, 전자 장치는 디스플레이 기능을 포함한 가구(furniture) 또는 건물/구조물의 일부, 전자 보드(electronic board), 전자 사인 입력장치(electronic signature receiving device), 프로젝터(projector), 또는 각종 계측기기(예: 수도, 전기, 가스, 또는 전파 계측 기기 등) 중 적어도 하나를 포함할 수 있다. 본 발명의 다양한 실시예에 따른 전자 장치는 전술한 다양한 장치들 중 하나 또는 그 이상의 조합일 수 있다. 또한, 본 발명의 다양한 실시예에 따른 전자 장치는 플렉서블 장치일 수 있다. 또한, 본 발명의 다양한 실시예에 따른 전자 장치는 전술한 기기들에 한정되지 않음은 당업자에게 자명하다.

이하, 첨부된 도면을 참조하여 다양한 실시예에 따른 전자 장치에 대해서 살펴본다. 다양한 실시예에서 이용되는 사용자라는 용어는 전자 장치를 사용하는 사람 또는 전자 장치를 사용하는 장치(예: 인공지능 전자 장치)를 지칭할 수 있다.

도 1은 다양한 실시예에 따른, 전자 장치(101)를 포함하는 네트워크 환경(100)를 도시한다. 도 1을 참조하면, 상기 전자 장치(101)는 버스(110), 프로세서(120), 메모리(130), 입출력 인터페이스(140), 디스플레이(150), 통신 인터페이스(160), 영상 처리 가속 모듈(170)을 포함할 수 있다.

상기 버스(110)는 전술한 구성요소들을 서로 연결하고, 전술한 구성요소들 간의 통신(예: 제어 메시지)을 전달하는 회로일 수 있다.

상기 프로세서(120)는, 예를 들면, 상기 버스(110)를 통해 전술한 다른 구성요소들(예: 상기 메모리(130), 상기 입출력 인터페이스(140), 상기 디스플레이(150), 상기 통신 인터페이스(160), 또는 상기 영상 처리 가속 모듈(170) 등)로부터 명령을 수신하여, 수신된 명령을 해독하고, 해독된 명령에 따른 연산이나 데이터 처리를 실행할 수 있다.

상기 메모리(130)는, 상기 프로세서(120) 또는 다른 구성요소들(예: 상기 입출력 인터페이스(140), 상기 디스플레이(150), 상기 통신 인터페이스(160), 또는 상기 영상 처리 가속 모듈(170) 등)로부터 수신되거나 상기 프로세서(120) 또는 다른 구성요소들에 의해 생성된 명령 또는 데이터를 저장할 수 있다. 상기 메모리(130)는, 예를 들면, 커널(131), 미들웨어(132), 어플리케이션 프로그래밍 인터페이스(API: application programming interface)(133) 또는 어플리케이션(134) 등의 프로그래밍 모듈들을 포함할 수 있다. 전술한 각각의 프로그래밍 모듈들은 소프트웨어, 펌웨어, 하드웨어 또는 이들 중 적어도 둘 이상의 조합으로 구성될 수 있다.

상기 커널(131)은 나머지 다른 프로그래밍 모듈들, 예를 들면, 상기 미들웨어(132), 상기 API(133) 또는 상기 어플리케이션(134)에 구현된 동작 또는 기능을 실행하는 데 사용되는 시스템 리소스들(예: 상기 버스(110), 상기 프로세서(120) 또는 상기 메모리(130) 등)을 제어 또는 관리할 수 있다. 또한, 상기 커널(131)은 상기 미들웨어(132), 상기 API(133) 또는 상기 어플리케이션(134)에서 상기 전자 장치(101)의 개별 구성요소에 접근하여 제어 또는 관리할 수 있는 인터페이스를 제공할 수 있다.

상기 미들웨어(132)는 상기 API(133) 또는 상기 어플리케이션(134)이 상기 커널(131)과 통신하여 데이터를 주고받을 수 있도록 중개 역할을 수행할 수 있다. 또한, 상기 미들웨어(132)는 상기 어플리케이션(134)로부터 수신된 작업 요청들과 관련하여, 예를 들면, 상기 어플리케이션(134) 중 적어도 하나의 어플리케이션에 상기 전자 장치(101)의 시스템 리소스(예: 상기 버스(110), 상기 프로세서(120) 또는 상기 메모리(130) 등)를 사용할 수 있는 우선 순위를 배정하는 등의 방법을 이용하여 작업 요청에 대한 제어(예: 스케쥴링 또는 로드 밸런싱)을 수행할 수 있다.

상기 API(133)는 상기 어플리케이션(134)이 상기 커널(131) 또는 상기 미들웨어(132)에서 제공되는 기능을 제어하기 위한 인터페이스로, 예를 들면, 파일 제어, 창 제어, 화상 처리 또는 문자 제어 등을 위한 적어도 하나의 인터페이스 또는 함수(예: 명령어)를 포함할 수 있다.

다양한 실시예에 따르면, 상기 어플리케이션(134)는 SMS/MMS 어플리케이션, 이메일 어플리케이션, 달력 어플리케이션, 알람 어플리케이션, 건강 관리(health care) 어플리케이션(예: 운동량 또는 혈당 등을 측정하는 어플리케이션) 또는 환경 정보 어플리케이션(예: 기압, 습도 또는 온도 정보 등을 제공하는 어플리케이션) 등을 포함할 수 있다. 추가적으로 또는 대체적으로, 상기 어플리케이션 134은 상기 전자 장치(101)와 외부 전자 장치(예: 전자 장치(104)) 사이의 정보 교환과 관련된 어플리케이션일 수 있다. 상기 정보 교환과 관련된 어플리케이션은, 예를 들어, 상기 외부 전자 장치에 특정 정보를 전달하기 위한 알림 전달(notification relay) 어플리케이션, 또는 상기 외부 전자 장치를 관리하기 위한 장치 관리(device management) 어플리케이션을 포함할 수 있다.

예를 들면, 상기 알림 전달 어플리케이션은 상기 전자 장치(101)의 다른 어플리케이션(예: SMS/MMS 어플리케이션, 이메일 어플리케이션, 건강 관리 어플리케이션 또는 환경 정보 어플리케이션 등)에서 발생한 알림 정보를 외부 전자 장치(예: 전자 장치(104))로 전달하는 기능을 포함할 수 있다. 추가적으로 또는 대체적으로, 상기 알림 전달 어플리케이션은, 예를 들면, 외부 전자 장치(예: 전자 장치(104))로부터 알림 정보를 수신하여 사용자에게 제공할 수 있다. 상기 장치 관리 어플리케이션은, 예를 들면, 상기 전자 장치(101)와 통신하는 외부 전자 장치(예: 전자 장치(104))의 적어도 일부에 대한 기능(예: 외부 전자 장치 자체(또는, 일부 구성 부품)의 턴온/턴오프 또는 디스플레이의 밝기(또는, 해상도) 조절), 상기 외부 전자 장치에서 동작하는 어플리케이션 또는 상기 외부 전자 장치에서 제공되는 서비스(예: 통화 서비스 또는 메시지 서비스)를 관리(예: 설치, 삭제 또는 업데이트)할 수 있다.

다양한 실시예에 따르면, 상기 어플리케이션(134)은 상기 외부 전자 장치(예: 전자 장치(104))의 속성(예: 전자 장치의 종류)에 따라 지정된 어플리케이션을 포함할 수 있다. 예를 들어, 외부 전자 장치가 MP3 플레이어인 경우, 상기 어플리케이션(134)은 음악 재생과 관련된 어플리케이션을 포함할 수 있다. 유사하게, 외부 전자 장치가 모바일 의료기기인 경우, 상기 어플리케이션 134은 건강 관리와 관련된 어플리케이션을 포함할 수 있다. 한 실시예에 따르면, 상기 어플리케이션(134)은 전자 장치(101)에 지정된 어플리케이션 또는 외부 전자 장치(예: 서버(106) 또는 전자 장치(104))로부터 수신된 어플리케이션 중 적어도 하나를 포함할 수 있다.

상기 입출력 인터페이스(140)은, 입출력 장치(예: 센서, 키보드 또는 터치 스크린)를 통하여 사용자로부터 입력된 명령 또는 데이터를, 예를 들면, 상기 버스(110)를 통해 상기 프로세서(120), 상기 메모리(130), 상기 통신 인터페이스(160), 또는 상기 영상 처리 가속 모듈(170)에 전달할 수 있다. 예를 들면, 상기 입출력 인터페이스(140)은 터치 스크린을 통하여 입력된 사용자의 터치에 대한 데이터를 상기 프로세서(120)로 제공할 수 있다. 또한, 상기 입출력 인터페이스(140)은, 예를 들면, 상기 버스(110)을 통해 상기 프로세서(120), 상기 메모리(130), 상기 통신 인터페이스(160), 또는 상기 영상 처리 가속 모듈(170)로부터 수신된 명령 또는 데이터를 상기 입출력 장치(예: 스피커 또는 디스플레이)를 통하여 출력할 수 있다. 예를 들면, 상기 입출력 인터페이스(140)은 상기 프로세서(120)를 통하여 처리된 음성 데이터를 스피커를 통하여 사용자에게 출력할 수 있다.

상기 디스플레이(150)은 사용자에게 각종 정보(예: 멀티미디어 데이터 또는 텍스트 데이터 등)을 표시할 수 있다.

상기 통신 인터페이스(160)은 상기 전자 장치(101)와 외부 장치(예: 전자 장치(104) 또는 서버(106))간의 통신을 연결할 수 있다. 예를 들면, 상기 통신 인터페이스(160)은 무선 통신 또는 유선 통신을 통해서 네트워크(162)에 연결되어 상기 외부 장치와 통신할 수 있다. 상기 무선 통신은, 예를 들어, Wifi(wireless fidelity), BT(Bluetooth), NFC(near field communication), GPS(global positioning system) 또는 cellular 통신(예: LTE, LTE-A, CDMA, WCDMA, UMTS, WiBro 또는 GSM 등) 중 적어도 하나를 포함할 수 있다. 상기 유선 통신은, 예를 들어, USB(universal serial bus), HDMI(high definition multimedia interface), RS-232(recommended standard 232) 또는 POTS(plain old telephone service) 중 적어도 하나를 포함할 수 있다.

한 실시예에 따르면, 상기 네트워크(162)는 통신 네트워크(telecommunications network)일 수 있다. 상기 통신 네트워크는 컴퓨터 네트워크(computer network), 인터넷(internet), 사물 인터넷(internet of things) 또는 전화망(telephone network) 중 적어도 하나를 포함할 수 있다. 한 실시예에 따르면, 상기 전자 장치(101)와 외부 장치 간의 통신을 위한 프로토콜(예: transport layer protocol, data link layer protocol 또는 physical layer protocol))은 어플리케이션(134), 어플리케이션 프로그래밍 인터페이스(133), 상기 미들웨어(132), 커널(131), 통신 인터페이스(160) 또는 영상 처리 가속 모듈(170) 중 적어도 하나에서 지원될 수 있다.

상기 영상 처리 가속 모듈(170)은, 다른 구성요소들(예, 상기 프로세서(120), 상기 메모리(130), 또는 상기 통신 인터페이스(160) 등)로부터 획득된 정보 중 적어도 일부를 처리하고, 이를 다양한 방법으로 사용자에게 제공할 수 있다. 예를 들면, 상기 영상 처리 가속 모듈(170)은 상기 프로세서(120)를 이용하여 또는 이와는 독립적으로, 상기 전자 장치(101)가 이미지 처리를 위한 명령어가 입력되면 입력된 명령어를 수행하기 위해 필요한 적어도 하나 이상의 이미지 처리 모듈로 명령을 수행하도록 상기 전자 장치(101)의 적어도 일부 기능을 제어할 수 있다. 후술하는 도 2를 통하여 상기 영상 처리 가속 모듈(170)에 대한 추가적인 정보가 제공된다.

도 2는 다양한 실시예들에 따른 전자 장치(예: 전자 장치(101))의 영상 처리 가속 모듈(170)의 블록도(200)를 도시한다.

도 2를 참조하면, 상기 영상 처리 가속 모듈(170)은 관리 모듈(210), 영상 처리 모듈(220), 분배 테이블 생성 모듈(230)을 포함할 수 있다.

관리 모듈(210)은 예를 들면, 입력 영상을 처리를 위한 명령어가 입력되면 전자 장치(101)의 특징 및 현재 상태에 대응하여 상기 입력된 명령어를 수행하기 위해서 사용될 수 있는 영상 처리 파라미터를 미리 저장된 분배 테이블로부터 추출할 수 있다. 이때, 영상 처리 파라미터는 전자 장치(101)의 특징 및 현재 상태에 대응하여 특정 명령어를 수행하기 위해서 사용될 수 있는 영상 처리 유닛에 대한 영상 처리 능력 정보가 될 수 있다. 또한 분배 테이블은 전자 장치의 다양한 상태에 따라 적어도 하나의 명령어를 수행하기 위해 각 영상 처리 유닛에 대한 적어도 하나의 영상 처리 능력 정보를 포함할 수 있다.

본 발명의 다양한 실시 예에서 전자 장치(101)의 상태는 각 영상 처리 유닛이 영상 데이터를 처리하는 속도, 처리량 등과 같은 처리 능력에 영향을 미치는 각종 환경들을 의미한다. 이러한 전자 장치(101)의 상태는 배터리 잔량, 클럭, 메모리 사용량, 발열 등과 같은 환경 요소에 의해서 결정될 수 있다. 예를 들어, 전자 장치(101)의 배터리 잔량이 작아지면 각 영상 처리 유닛으로 공급되는 전력량이 달라지기 때문에 각 영상 처리 유닛에 대한 처리 능력이 달라질 수 있다. 이러한 처리 능력을 고려하여 관리 모듈(210)은 각 영상 처리 유닛에 할당하는 데이터양을 조절할 수 있으며, 처리 능력이 저하된 영상 처리 유닛에 할당한 데이터를 다른 영상 처리 유닛으로 재분배할 수도 있다.

관리 모듈(210)은 추출된 영상 처리 파라미터를 기반하여 영상 처리를 위한 영상 처리 모듈(220) 내 적어도 하나의 영상 처리 유닛을 선택하고, 선택된 적어도 하나의 영상 처리 유닛으로 입력 영상을 분할하여 전달할 수 있다. 이때, 적어도 하나의 영상 처리 유닛은 영상 처리 모듈(220) 내에 포함되며, 특정 명령어에 따라 입력 영상을 단일 처리 또는 병렬 처리를 수행하는 유닛을 의미한다. 이러한 영상 처리 유닛은 어플리케이션 프로세서(AP), CPU, 그래픽 처리부(GPU) 등과 같은 하드웨어 아키텍처 또는 C/C++, OpenCL, Neon 등과 같은 소프트웨어 아키텍쳐가 될 수 있다.

적어도 하나의 영상 처리 유닛에 의해서 영상 처리가 완료되면 관리 모듈(210)은 영상 처리된 분할 영상을 결합하여 결과 영상을 출력할 수 있다.

또한 관리 모듈(210)은 영상 처리를 수행하는 적어도 하나의 영상 처리 유닛의 영상 처리 상태를 모니터링하고, 모니터링 결과에 따라 각 영상 처리 유닛에 영상을 재분배할 수 있다.

다양한 실시 예에 따라 관리 모듈(210)은 파라미터 추출 모듈(211), 데이터 분배 모듈(212), 모니터링 모듈(213)을 포함할 수 있다.

파라미터 추출 모듈(211)은, 분배 테이블 생성 모듈(230)에 의해서 생성된 분배 테이블을 이용하여 전자 장치(101)의 특징 및 현재 상태에서 상기 명령어를 수행하기 적합한 영상 처리 파라미터를 추출할 수 있다.

데이터 분배 모듈(212)은, 추출된 영상 처리 파라미터를 기반으로 입력 영상에 대한 영상 처리를 수행할 수 있는 적어도 하나의 영상 처리 유닛을 결정하고, 결정된 적어도 하나의 영상 처리 유닛에 입력 영상을 분할하여 전달할 수 있다. 만약 결정된 하나의 영상 처리 유닛이 단일 영상 처리를 수행하는 경우 데이터 분배 모듈(212)은 입력 영상 전체를 해당 영상 처리 유닛에게 전달할 수 있다. 만약 결정된 복수의 영상 처리 유닛이 병렬 영상 처리를 수행하는 경우 데이터 분배 모듈(212)은 분할된 데이터를 복수의 각 영상 처리 유닛에게 분배할 수 있다.

다른 실시 예로, 복수의 영상 처리 유닛에 분할된 데이터를 분배하는 경우 데이터 분배 모듈(212)은 각 영상 처리 유닛의 처리 능력에 따라 분배되는 데이터의 양을 조절할 수 있다. 예를 들어, 영상 데이터를 10개로 분할하여 3개의 각 영상 처리 유닛에 분배하는 경우 데이터 분배 모듈(212)은 3개의 영상 처리 유닛 중 최대 처리 능력을 가지는 순서대로 영상 데이터를 분배할 수 있다. 여기서, 영상 처리 유닛의 처리 능력은 영상 처리 유닛의 데이터 처리 속도, 데이터 처리량 등에 따라 결정될 수 있다. 예를 들어, 데이터 처리 속도가 빠르고, 데이터 처리량이 많을수록 최대 처리 능력을 가지는 영상 처리 유닛이 될 수 있다.

뿐만 아니라, 데이터 분배 모듈(212)은 모니터링 모듈(213)로부터 데이터 재분배 요청이 수신되면 요청에 따라 데이터를 처리할 영상 처리 유닛을 변경하거나 각 영상 처리 유닛에 따른 데이터 처리량을 조절할 수 있다. 모니터링 모듈(213) 은 영상 처리 모듈(220) 내 적어도 하나의 영상 처리 유닛에 대한 처리 능력을 모니터링하여 영상 처리를 위한 데이터 재분배가 필요한지 여부를 판단할 수 있다.

일 실시 예로, 모니터링 모듈(213)은 적어도 하나의 영상 처리 유닛을 모니터링하여 처리 능력이 저하된 영상 처리 유닛의 데이터를 다른 영상 처리 유닛에게 재분배하거나 처리 능력이 저하된 영상 처리 유닛에게 데이터량을 더 적게 분배할 수 있다.

예를 들어, C/C++과 같은 단일 영상 처리 소프트웨어 아키텍처를 이용하여 입력 영상을 처리하는 중 처리 속도가 미리 측정된 임계 속도보다 낮아지면 모니터링 모듈(211)은 데이터 재분배가 필요하다고 판단할 수 있다. 데이터 재분배가 필요하다고 판단될 경우 모니터링 모듈(211)은 영상 처리를 위한 데이터 재분배 요청을 데이터 분배 모듈(212)로 전달할 수 있다.

영상 처리 모듈(220)은 영상 처리를 위한 적어도 하나의 영상 처리 유닛을 포함한다. 이러한 영상 처리 유닛은 어플리케이션 프로세서(AP), CPU, 그래픽 처리부(GPU) 등과 같은 하드웨어 아키텍처 또는 C/C++, OpenCL, Neon 등과 같은 소프트웨어 아키텍쳐가 될 수 있다.

분배 테이블 생성 모듈(230)은 영상 처리를 수행할 수 있는 영상 처리 유닛을 결정하기 위한 분배 테이블을 생성하여 저장할 수 있다. 이러한 분배 테이블은 전자 장치(101)의 다양한 상태에 따라 적어도 하나의 명령어를 수행하기 위해 각 영상 처리 유닛에 대한 적어도 하나의 영상 처리 능력 정보를 포함할 수 있다.

분배 테이블 생성 모듈(230)은 전자 장치(101)의 다양한 상태 중 적어도 하나의 상태에 대응하는 적어도 하나의 영상 처리 유닛의 영상 처리 능력 정보에 대한 파라미터의 기본값(default)을 가지고 있는 분배 테이블을 저장할 수 있다.

분배 테이블 생성 모듈(230)은 영상 처리를 위해 전자 장치(101)에 구비된 소프트웨어 아키텍처 또는 하드웨어 아키텍처에 대한 정보에 대응하여 명령어를 수행하기 위한 처리 능력을 포함하는 분배 테이블을 생성할 수 있다. 이와 같이 생성된 분배 테이블은 전자 장치(101)에서 영상 처리 명령어를 수행할 때마다 이용되기 때문에 추가적인 로드를 감소시킬 수 있다.

또한 분배 테이블 생성 모듈(230)은 주기적으로 전자 장치(101)의 상태를 확인하고, 확인된 전자 장치(101)의 상태가 특정 조건을 만족하는 경우 기존에 생성된 분배 테이블을 업데이트하여 새로운 분배 테이블을 생성할 수도 있다. 여기서, 전자 장치(101)의 상태는 전자 장치(101)의 배터리 전량, 발열 정도, 메모리 사용량 등에 따라 결정될 수 있다. 예를 들어, 기존에 생성된 분배 테이블이 전자 장치(101)의 배터리 잔량이 100% 남아있는 상태에서 각 영상 처리 유닛에 대한 특정 명령어를 수행하는 처리 능력을 포함하는 경우 전자 장치(101)의 현재 상태가 배터리 잔량이 50% 남아있는 상태라면 분배 테이블 생성 모듈(230)은 현재 상태에서 각 영상 처리 유닛의 처리 능력을 측정하고, 측정된 처리 능력을 기존에 생성된 분배 테이블에 업데이트하여 새로운 분배 테이블을 생성할 수 있다.

이와 같이 생성된 분배 테이블을 이용하여 관리 모듈(210)은 CPU의 처리 능력이 저하된 경우 GPU에서의 처리량을 늘리도록 데이터를 분배할 수 있고, 배터리가 저전력인 경우 GPU의 처리량을 줄이도록 데이터를 분배할 수도 있다.

후술하는 도 3을 통하여 상기 분배 테이블에 대한 추가적인 정보가 제공된다.

도 3은 다양한 실시예에 따른 분배 테이블에 대한 구성도를 도시한다.

본 발명의 다양한 실시예에 따른 분배 테이블은 전자 장치(101)의 상태, 명령어에 따라 각 영상 처리 유닛의 처리 능력을 포함할 수 있다. 이러한 각 영상 처리 유닛의 영상 처리 능력 정보는 배터리 잔량, 발열 정도, 메모리 사용량 등과 같은 전자 장치(101)의 상태 또는 각 영상 처리 유닛의 클럭 등에 대응하여 달라질 수 있다.

예를 들어, 분배 테이블은 전자 장치(101)의 제1 상태에 따라 제1 명령어, 제2 명령어, 제3 명령어를 수행하기 위한 각 영상 처리 유닛의 처리속도와 전자 장치(101)의 제2 상태에 따라 제1 명령어, 제2 명령어, 제3 명령어를 수행하기 위한 각 영상 처리 유닛의 처리속도를 포함할 수 있다.

관리 모듈(210)은 전자 장치(101)가 현재 제1 상태인 경우 입력 영상을 처리하기 위한 제2 명령어가 수신되면 상기와 같은 분배 테이블에서 제1 상태에 대응하여 제2 명령어를 처리할 수 있는 영상 처리 유닛에 대한 영상 처리 파라미터를 추출할 수 있다. 이후 관리 모듈(210)은 추출된 영상 처리 파라미터를 기반으로 제2 명령어를 가장 빠르게 처리할 수 있는 제2 유닛을 선택할 수 있다. 이에 따라 관리 모듈(210)은 선택한 제2 유닛이 입력 영상을 처리하도록 제2 유닛으로 입력 영상을 전달할 수 있다.

만약 전자 장치(101)가 현재 제2 상태인 경우 입력 영상을 처리하기 위한 제3 명령어가 수신되면 관리 모듈(210)은 분배 테이블에서 제2 상태에 대응하여 제3 명령어를 처리할 수 있는 영상 처리 유닛에 대한 영상 처리 파라미터를 추출할 수 있다. 관리 모듈(210)은 추출된 영상 처리 파라미터를 기반으로 제3 명령어를 가장 빠르게 처리할 수 있는 제3 유닛과 제4 유닛을 함께 선택할 수 있다. 이에 따라 관리 모듈(210)은 선택한 제3 유닛과 제4 유닛이 입력 영상을 처리하도록 입력 영상을 분할하여 제3 유닛과 제4 유닛으로 분배할 수 있다.

본 발명의 다양한 실시예에 따른 전자 장치101는 영상 처리를 수행하는 적어도 하나의 영상 처리 유닛을 포함하는 영상 처리 모듈과, 입력 영상을 처리하기 위한 명령어가 수신되면 전자 장치의 상태에 따라 상기 명령어를 수행하기 위한 적어도 하나의 영상 처리 유닛을 결정하고, 상기 결정된 적어도 하나의 영상 처리 유닛에 상기 입력 영상을 분할한 분할 영상을 분배한 후 상기 적어도 하나의 영상 처리 유닛을 이용하여 상기 분할 영상을 처리하여 결합하는 관리 모듈과, 상기 적어도 하나의 영상 처리 유닛을 결정하기 위해 사용되는 분배 테이블을 생성하는 분배 테이블 생성 모듈을 포함할 수 있다.

도 4는 다양한 실시예에 따른 입력 영상을 처리하는 동작을 도시한다.

400단계에서 관리 모듈(210)은 입력 영상에 대한 영상 처리를 수행하기 위한 명령어를 수신한다.

410단계에서 관리 모듈(210)은 미리 저장된 분배 테이블을 기반으로 명령어를 수행하기 위한 영상 처리 유닛을 선택한다.

예를 들어, 수신된 명령어가 입력 영상에 블러 효과를 처리하기 위한 명령어인 경우 관리 모듈(210)은 미리 저장된 분배 테이블을 기반으로 전자 장치(101)의 현재 상태에서 상기 명령에 해당하는 영상 처리를 수행할 수 있는 적어도 하나의 영상 처리 유닛을 선택할 수 있다.

420단계에서 관리 모듈(210)은 입력 영상을 분할하고, 분할 영상을 선택된 적어도 하나의 영상 처리 유닛으로 전달한다.

430단계에서 관리 모듈(210)은 적어도 하나의 영상 처리 유닛을 이용하여 각 분할 영상을 처리하고, 영상 처리가 완료된 순서에 따라 분할 영상을 결합하여 최종 영상을 출력할 수 있다.

440단계에서 관리 모듈(210)은 각 영상 처리 유닛에 대한 처리 능력을 모니터링한다. 각 영상 처리 유닛은 전자 장치(101)의 특징 및 현재 상태에 따라 영상 처리를 수행하는 처리 능력이 달라질 수 있다.

450단계에서 관리 모듈(210)은 각 영상 처리 유닛에 대한 데이터 재분배가 필요한지 여부를 판단하여 데이터 재분배가 필요하면 460단계로 진행하고, 데이터 재분배가 필요하지 않으면 영상 처리 동작을 종료한다.

460단계에서 관리 모듈(210)은 각 영상 처리 유닛에 대한 입력 영상을 재분배 한다. 관리 모듈(210)은 주기적으로 영상 처리 유닛의 영상 처리 상태를 모니터링하여 영상 처리 유닛이 처리하는 데이터를 재분배할 수 있다. 예를 들어, 관리 모듈(210)은 영상 처리 유닛에 대한 처리 능력을 모니터링하고, 영상 처리를 위한 데이터 재분배가 필요한지 여부를 판단하여 데이터 재분배가 필요한 경우 각 영상 처리 유닛에 대한 데이터 재분배를 수행할 수 있다. 일 실시 예로, 관리 모듈(210)은 적어도 하나의 영상 처리 유닛을 모니터링하여 처리 능력이 저하된 영상 처리 유닛의 데이터를 다른 영상 처리 유닛에게 재분배하거나 처리 능력이 저하된 영상 처리 유닛에게 데이터량을 더 적게 분배할 수 있다.

본 발명의 다양한 실시 예에 따른 영상 처리 방법은 입력 영상을 처리하기 위한 명령어를 수신하는 동작과, 전자 장치의 상태에 따라 상기 명령어를 수행하기 위해 사용되는 적어도 하나의 영상 처리 유닛을 결정하는 동작과, 상기 결정된 적어도 하나의 영상 처리 유닛에 상기 입력 영상을 분할한 분할 영상을 분배하는 동작과, 상기 적어도 하나의 영상 처리 유닛을 이용하여 상기 분할 영상을 처리하여 결합하는 동작을 포함할 수 있다.

도 5는 다양한 실시예들에 따른 전자 장치(501)의 블록도(500)를 도시한다. 상기 전자 장치(501)는, 예를 들면, 도 1에 도시된 전자 장치(101)의 전체 또는 일부를 구성할 수 있다. 도 5를 참조하면, 상기 전자 장치(501)는 하나 이상의 어플리케이션 프로세서(AP: application processor)(510), 통신 모듈(520), SIM(subscriber identification module) 카드(524), 메모리(530), 센서 모듈(540), 입력 장치(550), 디스플레이(560), 인터페이스(570), 오디오 모듈(580), 카메라 모듈(591), 그래픽 처리부(592), 전력관리 모듈(595), 배터리(596), 인디케이터(597) 및 모터(598) 를 포함할 수 있다.

상기 AP(510)는 운영체제 또는 응용 프로그램을 구동하여 상기 AP(510)에 연결된 다수의 하드웨어 또는 소프트웨어 구성요소들을 제어할 수 있고, 멀티미디어 데이터를 포함한 각종 데이터 처리 및 연산을 수행할 수 있다. 상기 AP(510)는, 예를 들면, SoC(system on chip) 로 구현될 수 있다. 한 실시예에 따르면, 상기 AP(510)는 GPU(graphic processing unit, 미도시)를 더 포함할 수 있다.

상기 통신 모듈(520)(예: 상기 통신 인터페이스(160))은 상기 전자 장치(501)(예: 상기 전자 장치(101))와 네트워크를 통해 연결된 다른 전자 장치들(예: 전자 장치(104) 또는 서버(106)) 간의 통신에서 데이터 송수신을 수행할 수 있다. 한 실시예에 따르면, 상기 통신 모듈(520)은 셀룰러 모듈(521), Wifi 모듈(523), BT 모듈(525), GPS 모듈(527), NFC 모듈(528) 및 RF(radio frequency) 모듈(529)를 포함할 수 있다.

상기 셀룰러 모듈(521)은 통신망(예: LTE, LTE-A, CDMA, WCDMA, UMTS, WiBro 또는 GSM 등)을 통해서 음성 통화, 영상 통화, 문자 서비스 또는 인터넷 서비스 등을 제공할 수 있다. 또한, 상기 셀룰러 모듈(521)은, 예를 들면, 가입자 식별 모듈(예: SIM 카드(524))을 이용하여 통신 네트워크 내에서 전자 장치의 구별 및 인증을 수행할 수 있다. 한 실시예에 따르면, 상기 셀룰러 모듈(521)은 상기 AP(510)가 제공할 수 있는 기능 중 적어도 일부 기능을 수행할 수 있다. 예를 들면, 상기 셀룰러 모듈(521)은 멀티 미디어 제어 기능의 적어도 일부를 수행할 수 있다.

한 실시예에 따르면, 상기 셀룰러 모듈(521)은 커뮤니케이션 프로세서(CP: communication processor)를 포함할 수 있다. 또한, 상기 셀룰러 모듈(521)은, 예를 들면, SoC로 구현될 수 있다. 도 5에서는 상기 셀룰러 모듈(521)(예: 커뮤니케이션 프로세서), 상기 메모리(530) 또는 상기 전력관리 모듈(595) 등의 구성요소들이 상기 AP(510)와 별개의 구성요소로 도시되어 있으나, 한 실시예에 따르면, 상기 AP(510)가 전술한 구성요소들의 적어도 일부(예: 셀룰러 모듈(521))를 포함하도록 구현될 수 있다.

한 실시예에 따르면, 상기 AP(510) 또는 상기 셀룰러 모듈(521)(예: 커뮤니케이션 프로세서)은 각각에 연결된 비휘발성 메모리 또는 다른 구성요소 중 적어도 하나로부터 수신한 명령 또는 데이터를 휘발성 메모리에 로드(load)하여 처리할 수 있다. 또한, 상기 AP(510) 또는 상기 셀룰러 모듈(521)은 다른 구성요소 중 적어도 하나로부터 수신하거나 다른 구성요소 중 적어도 하나에 의해 생성된 데이터를 비휘발성 메모리에 저장(store)할 수 있다.

상기 Wifi 모듈(523), 상기 BT 모듈(525), 상기 GPS 모듈(527) 또는 상기 NFC 모듈(528) 각각은, 예를 들면, 해당하는 모듈을 통해서 송수신되는 데이터를 처리하기 위한 프로세서를 포함할 수 있다. 도 5에서는 셀룰러 모듈(521), Wifi 모듈(523), BT 모듈(525), GPS 모듈(527) 또는 NFC 모듈(528)이 각각 별개의 블록으로 도시되었으나, 한 실시예에 따르면, 셀룰러 모듈(521), Wifi 모듈(523), BT 모듈(525), GPS 모듈(527) 또는 NFC 모듈(528) 중 적어도 일부(예: 두 개 이상)는 하나의 integrated chip(IC) 또는 IC 패키지 내에 포함될 수 있다. 예를 들면, 셀룰러 모듈(521), Wifi 모듈(523), BT 모듈(525), GPS 모듈(527) 또는 NFC 모듈(528) 각각에 대응하는 프로세서들 중 적어도 일부(예: 셀룰러 모듈(521)에 대응하는 커뮤니케이션 프로세서 및 Wifi 모듈(523)에 대응하는 Wifi 프로세서)는 하나의 SoC로 구현될 수 있다.

상기 RF 모듈(529)는 데이터의 송수신, 예를 들면, RF 신호의 송수신을 할 수 있다. 상기 RF 모듈(529)는, 도시되지는 않았으나, 예를 들면, 트랜시버(transceiver), PAM(power amp module), 주파수 필터(frequency filter) 또는 LNA(low noise amplifier) 등을 포함할 수 있다. 또한, 상기 RF 모듈(529)는 무선 통신에서 자유 공간상의 전자파를 송수신하기 위한 부품, 예를 들면, 도체 또는 도선 등을 더 포함할 수 있다. 도 5에서는 셀룰러 모듈(521), Wifi 모듈(523), BT 모듈(525), GPS 모듈(527) 및 NFC 모듈(528)이 하나의 RF 모듈(529)을 서로 공유하는 것으로 도시되어 있으나, 한 실시예에 따르면, 셀룰러 모듈(521), Wifi 모듈(523), BT 모듈(525), GPS 모듈(527) 또는 NFC 모듈(528) 중 적어도 하나는 별개의 RF 모듈을 통하여 RF 신호의 송수신을 수행할 수 있다.

상기 SIM 카드(524)는 가입자 식별 모듈을 포함하는 카드일 수 있으며, 전자 장치의 특정 위치에 형성된 슬롯에 삽입될 수 있다. 상기 SIM 카드(524)는 고유한 식별 정보(예: ICCID(integrated circuit card identifier)) 또는 가입자 정보(예: IMSI(international mobile subscriber identity))를 포함할 수 있다.

상기 메모리(530)(예: 상기 메모리 130)는 내장 메모리(532)또는 외장 메모리(534)를 포함할 수 있다. 상기 내장 메모리(532)는, 예를 들면, 휘발성 메모리(예를 들면, DRAM(dynamic RAM), SRAM(static RAM), SDRAM(synchronous dynamic RAM) 등) 또는 비휘발성 메모리(non-volatile Memory, 예를 들면, OTPROM(one time programmable ROM), PROM(programmable ROM), EPROM(erasable and programmable ROM), EEPROM(electrically erasable and programmable ROM), mask ROM, flash ROM, NAND flash memory, NOR flash memory 등) 중 적어도 하나를 포함할 수 있다.

한 실시예에 따르면, 상기 내장 메모리(532)는 Solid State Drive (SSD)일 수 있다. 상기 외장 메모리(534)는 flash drive, 예를 들면, CF(compact flash), SD(secure digital), Micro-SD(micro secure digital), Mini-SD(mini secure digital), xD(extreme digital) 또는 Memory Stick 등을 더 포함할 수 있다. 상기 외장 메모리(534)는 다양한 인터페이스를 통하여 상기 전자 장치(501)과 기능적으로 연결될 수 있다. 한 실시예에 따르면, 상기 전자 장치(501)는 하드 드라이브와 같은 저장 장치(또는 저장 매체)를 더 포함할 수 있다.

상기 센서 모듈(540)은 물리량을 계측하거나 전자 장치(501)의 작동 상태를 감지하여, 계측 또는 감지된 정보를 전기 신호로 변환할 수 있다. 상기 센서 모듈(540)은, 예를 들면, 제스처 센서(540A), 자이로 센서(540B), 기압 센서(540C), 마그네틱 센서(540D), 가속도 센서(540E), 그립 센서(540F), 근접 센서(540G), color 센서(540H) (예: RGB(red, green, blue) 센서), 생체 센서(540I), 온/습도 센서(540J), 조도 센서(540K) 또는 UV(ultra violet) 센서(540M) 중의 적어도 하나를 포함할 수 있다. 추가적으로 또는 대체적으로, 상기 센서 모듈(540)은, 예를 들면, 후각 센서(E-nose sensor, 미도시), EMG 센서(electromyography sensor, 미도시), EEG 센서(electroencephalogram sensor, 미도시), ECG 센서(electrocardiogram sensor, 미도시), IR(infra red) 센서(미도시), 홍채 센서(미도시) 또는 지문 센서(미도시) 등을 포함할 수 있다. 상기 센서 모듈(540)은 그 안에 속한 적어도 하나 이상의 센서들을 제어하기 위한 제어 회로를 더 포함할 수 있다.

상기 입력 장치(550)은 터치 패널(touch panel)(552), (디지털) 펜 센서(pen sensor)(554), 키(key)(556) 또는 초음파(ultrasonic) 입력 장치(558)를 포함할 수 있다. 상기 터치 패널(552)은, 예를 들면, 정전식, 감압식, 적외선 방식 또는 초음파 방식 중 적어도 하나의 방식으로 터치 입력을 인식할 수 있다. 또한, 상기 터치 패널(552)은 제어 회로를 더 포함할 수도 있다. 정전식의 경우, 물리적 접촉 또는 근접 인식이 가능하다. 상기 터치 패널(552)은 택타일 레이어(tactile layer)를 더 포함할 수도 있다. 이 경우, 상기 터치 패널(552)은 사용자에게 촉각 반응을 제공할 수 있다.

상기 (디지털) 펜 센서(554)는, 예를 들면, 사용자의 터치 입력을 받는 것과 동일 또는 유사한 방법 또는 별도의 인식용 쉬트(sheet)를 이용하여 구현될 수 있다. 상기 키(556)는, 예를 들면, 물리적인 버튼, 광학식 키 또는 키패드를 포함할 수 있다. 상기 초음파(ultrasonic) 입력 장치(558)는 초음파 신호를 발생하는 입력 도구를 통해, 전자 장치(501)에서 마이크(예: 마이크(588))로 음파를 감지하여 데이터를 확인할 수 있는 장치로서, 무선 인식이 가능하다. 한 실시예에 따르면, 상기 전자 장치(501)는 상기 통신 모듈(520)를 이용하여 이와 연결된 외부 장치(예: 컴퓨터 또는 서버)로부터 사용자 입력을 수신할 수도 있다.

상기 디스플레이(560)(예: 상기 디스플레이 150)은 패널(562), 홀로그램 장치(564) 또는 프로젝터(566)을 포함할 수 있다. 상기 패널(562)은, 예를 들면, LCD(liquid-crystal display) 또는 AM-OLED(active-matrix organic light-emitting diode) 등일 수 있다. 상기 패널(562)은, 예를 들면, 유연하게(flexible), 투명하게(transparent) 또는 착용할 수 있게(wearable) 구현될 수 있다. 상기 패널(562)은 상기 터치 패널(552)과 하나의 모듈로 구성될 수도 있다. 상기 홀로그램 장치(564)은 빛의 간섭을 이용하여 입체 영상을 허공에 보여줄 수 있다. 상기 프로젝터(566)는 스크린에 빛을 투사하여 영상을 표시할 수 있다. 상기 스크린은, 예를 들면, 상기 전자 장치(501)의 내부 또는 외부에 위치할 수 있다. 한 실시예에 따르면, 상기 디스플레이(560)은 상기 패널(562), 상기 홀로그램 장치(564), 또는 프로젝터(566)를 제어하기 위한 제어 회로를 더 포함할 수 있다.

상기 인터페이스(570)는, 예를 들면, HDMI(high-definition multimedia interface)(572), USB(universal serial bus)(574), 광 인터페이스(optical interface)(576) 또는 D-sub(D-subminiature)(578)를 포함할 수 있다. 상기 인터페이스(570)는, 예를 들면, 도 1에 도시된 통신 인터페이스(160)에 포함될 수 있다. 추가적으로 또는 대체적으로, 상기 인터페이스(570)는, 예를 들면, MHL(mobile high-definition link) 인터페이스, SD(secure Digital) 카드/MMC(multi-media card) 인터페이스 또는 IrDA(infrared data association) 규격 인터페이스를 포함할 수 있다.

상기 오디오 모듈(580)은 소리(sound)와 전기신호를 쌍방향으로 변환시킬 수 있다. 상기 오디오 모듈(580)의 적어도 일부 구성요소는, 예를 들면, 도 1 에 도시된 입출력 인터페이스(140)에 포함될 수 있다. 상기 오디오 모듈(580)은, 예를 들면, 스피커(582), 리시버(584), 이어폰(586) 또는 마이크(588) 등을 통해 입력 또는 출력되는 소리 정보를 처리할 수 있다.

상기 카메라 모듈(591)은 정지 영상 및 동영상을 촬영할 수 있는 장치로서, 한 실시예에 따르면, 하나 이상의 이미지 센서(예: 전면 센서 또는 후면 센서), 렌즈(미도시), ISP(image signal processor, 미도시) 또는 플래쉬 (flash, 미도시)(예: LED 또는 xenon lamp)를 포함할 수 있다.

상기 그래픽 처리부(592)는 영상 처리를 위한 명령어에 따라 입력 영상에 대한 단일 또는 병렬 영상 처리를 수행할 수 있다.

상기 전력 관리 모듈(595)은 상기 전자 장치(501)의 전력을 관리할 수 있다. 도시하지는 않았으나, 상기 전력 관리 모듈(595)은, 예를 들면, PMIC(power management integrated circuit), 충전 IC(charger integrated circuit) 또는 배터리 또는 연료 게이지(battery or fuel gauge)를 포함할 수 있다.

상기 PMIC는, 예를 들면, 집적회로 또는 SoC 반도체 내에 탑재될 수 있다. 충전 방식은 유선과 무선으로 구분될 수 있다. 상기 충전 IC는 배터리를 충전시킬 수 있으며, 충전기로부터의 과전압 또는 과전류 유입을 방지할 수 있다. 한 실시예에 따르면, 상기 충전 IC는 유선 충전 방식 또는 무선 충전 방식 중 적어도 하나를 위한 충전 IC를 포함할 수 있다. 무선 충전 방식으로는, 예를 들면, 자기공명 방식, 자기유도 방식 또는 전자기파 방식 등이 있으며, 무선 충전을 위한 부가적인 회로, 예를 들면, 코일 루프, 공진 회로 또는 정류기 등의 회로가 추가될 수 있다.

상기 배터리 게이지는, 예를 들면, 상기 배터리(596)의 잔량, 충전 중 전압, 전류 또는 온도를 측정할 수 있다. 상기 배터리(596)는 전기를 저장 또는 생성할 수 있고, 그 저장 또는 생성된 전기를 이용하여 상기 전자 장치(501)에 전원을 공급할 수 있다. 상기 배터리(596)는, 예를 들면, 충전식 전지(rechargeable battery) 또는 태양 전지(solar battery)를 포함할 수 있다.

상기 인디케이터(597)는 상기 전자 장치(501) 혹은 그 일부(예: 상기 AP(510))의 특정 상태, 예를 들면, 부팅 상태, 메시지 상태 또는 충전 상태 등을 표시할 수 있다. 상기 모터(598)는 전기적 신호를 기계적 진동으로 변환할 수 있다. 도시되지는 않았으나, 상기 전자 장치(501)는 모바일 TV 지원을 위한 처리 장치(예: GPU)를 포함할 수 있다. 상기 모바일 TV지원을 위한 처리 장치는, 예를 들면, DMB(digital multimedia broadcasting), DVB(digital video broadcasting) 또는 미디어플로우(media flow) 등의 규격에 따른 미디어 데이터를 처리할 수 있다.

본 발명의 다양한 실시예에 따른 전자 장치의 전술한 구성요소들 각각은 하나 또는 그 이상의 부품(component)으로 구성될 수 있으며, 해당 구성 요소의 명칭은 전자 장치의 종류에 따라서 달라질 수 있다. 본 발명의 다양한 실시예에 따른 전자 장치는 전술한 구성요소 중 적어도 하나를 포함하여 구성될 수 있으며, 일부 구성요소가 생략되거나 또는 추가적인 다른 구성요소를 더 포함할 수 있다. 또한, 본 발명의 다양한 실시예에 따른 전자 장치의 구성 요소들 중 일부가 결합되어 하나의 개체(entity)로 구성됨으로써, 결합되기 이전의 해당 구성 요소들의 기능을 동일하게 수행할 수 있다.

본 발명의 다양한 실시예에 사용된 용어 “모듈”은, 예를 들어, 하드웨어, 소프트웨어 또는 펌웨어(firmware) 중 하나 또는 둘 이상의 조합을 포함하는 단위(unit)를 의미할 수 있다. “모듈”은 예를 들어, 유닛(unit), 로직(logic), 논리 블록(logical block), 부품(component) 또는 회로(circuit) 등의 용어와 바꾸어 사용(interchangeably use)될 수 있다. “모듈”은, 일체로 구성된 부품의 최소 단위 또는 그 일부가 될 수 있다. “모듈”은 하나 또는 그 이상의 기능을 수행하는 최소 단위 또는 그 일부가 될 수도 있다. “모듈”은 기계적으로 또는 전자적으로 구현될 수 있다. 예를 들면, 본 발명의 다양한 실시예에 따른 “모듈”은, 알려졌거나 앞으로 개발될, 어떤 동작들을 수행하는 ASIC(application-specific integrated circuit) 칩, FPGAs(field-programmable gate arrays) 또는 프로그램 가능 논리 장치(programmable-logic device) 중 적어도 하나를 포함할 수 있다.

다양한 실시예에 따르면, 본 발명의 다양한 실시예에 따른 장치(예: 모듈들 또는 그 기능들) 또는 방법(예: 동작들)의 적어도 일부는, 예컨대, 프로그래밍 모듈의 형태로 컴퓨터로 읽을 수 있는 저장매체(computer-readable storage media)에 저장된 명령어로 구현될 수 있다. 상기 명령어는, 하나 이상의 프로세서 (예: 상기 프로세서(210))에 의해 실행될 경우, 상기 하나 이상의 프로세서가 상기 명령어에 해당하는 기능을 수행할 수 있다. 컴퓨터로 읽을 수 있는 저장매체는, 예를 들면, 상기 메모리(220)가 될 수 있다. 상기 프로그래밍 모듈의 적어도 일부는, 예를 들면, 상기 프로세서(210)에 의해 구현(implement)(예: 실행)될 수 있다. 상기 프로그래밍 모듈 의 적어도 일부는 하나 이상의 기능을 수행하기 위한, 예를 들면, 모듈, 프로그램, 루틴, 명령어 세트 (sets of instructions) 또는 프로세스 등을 포함할 수 있다.

상기 컴퓨터로 판독 가능한 기록 매체에는 하드디스크, 플로피디스크 및 자기 테이프와 같은 마그네틱 매체(Magnetic Media)와, CD-ROM(Compact Disc Read Only Memory), DVD(Digital Versatile Disc)와 같은 광기록 매체(Optical Media)와, 플롭티컬 디스크(Floptical Disk)와 같은 자기-광 매체(Magneto-Optical Media)와, 그리고 ROM(Read Only Memory), RAM(Random Access Memory), 플래시 메모리 등과 같은 프로그램 명령(예: 프로그래밍 모듈)을 저장하고 수행하도록 특별히 구성된 하드웨어 장치가 포함될 수 있다. 또한, 프로그램 명령에는 컴파일러에 의해 만들어지는 것과 같은 기계어 코드뿐만 아니라 인터프리터 등을 사용해서 컴퓨터에 의해서 실행될 수 있는 고급 언어 코드를 포함할 수 있다. 상술한 하드웨어 장치는 본 발명의 다양한 실시예의 동작을 수행하기 위해 하나 이상의 소프트웨어 모듈로서 작동하도록 구성될 수 있으며, 그 역도 마찬가지다.

본 발명의 다양한 실시예에 따른 모듈 또는 프로그래밍 모듈은 전술한 구성요소들 중 적어도 하나 이상을 포함하거나, 일부가 생략되거나, 또는 추가적인 다른 구성요소를 더 포함할 수 있다. 본 발명의 다양한 실시예에 따른 모듈, 프로그래밍 모듈 또는 다른 구성요소에 의해 수행되는 동작들은 순차적, 병렬적, 반복적 또는 휴리스틱(heuristic)한 방법으로 실행될 수 있다. 또한, 일부 동작은 다른 순서로 실행되거나, 생략되거나, 또는 다른 동작이 추가될 수 있다.

다양한 실시예에 따르면, 명령들을 저장하고 있는 저장 매체에 있어서, 상기 명령들은 적어도 하나의 프로세서에 의하여 실행될 때에 상기 적어도 하나의 프로세서로 하여금 적어도 하나의 동작을 수행하도록 설정된 것으로서, 상기 적어도 하나의 동작은, 입력 영상을 처리하기 위한 명령어를 수신하는 동작과, 전자 장치의 상태에 따라 상기 명령어를 수행하기 위해 사용되는 적어도 하나의 영상 처리 유닛을 결정하는 동작과, 상기 결정된 적어도 하나의 영상 처리 유닛에 상기 입력 영상을 분할한 분할 영상을 분배하는 동작과, 상기 적어도 하나의 영상 처리 유닛을 이용하여 상기 분할 영상을 처리하여 결합하는 동작을 포함할 수 있다.

그리고 본 명세서와 도면에 개시된 본 발명의 실시예들은 본 발명의 실시예에 따른 의 기술 내용을 쉽게 설명하고 본 발명의 실시예의 이해를 돕기 위해 특정 예를 제시한 것일 뿐이며, 본 발명의 실시예의 범위를 한정하고자 하는 것은 아니다. 따라서 본 발명의 다양한 실시예의 범위는 여기에 개시된 실시예들 이외에도 본 발명의 다양한 실시예의 기술적 사상을 바탕으로 도출되는 모든 변경 또는 변형된 형태가 본 발명의 다양한 실시예의 범위에 포함되는 것으로 해석되어야 한다.

170: 영상 처리 가속 모듈
210: 관리 모듈
211: 파라미터 추출 모듈
212: 데이터 분배 모듈
213: 모니터링 모듈
220: 영상 처리 모듈
230: 분배 데이터 생성 모듈

Claims (17)

1. 입력 영상을 처리하기 위한 명령어를 수신하는 동작과,
   전자 장치의 상태 및 상기 수신된 명령어의 타입에 따라 복수 개의 이미지 프로세서들의 영상 처리 능력 정보를 확인하는 동작과,
   상기 복수 개의 이미지 프로세서들의 상기 영상 처리 능력 정보에 기반하여, 상기 복수 개의 이미지 프로세서들 중에서 적어도 하나의 이미지 프로세서를 선택하는 동작과,
   상기 영상 처리 능력 정보에 기반하여, 상기 적어도 하나의 이미지 프로세서에 의해 처리될 수 있는 데이터의 양을 결정하는 동작과,
   상기 입력 영상을 복수 개의 분할 영상들로 분할하고, 상기 결정된 데이터의 양에 기반하여, 상기 적어도 하나의 이미지 프로세서에 상기 복수 개의 분할 영상들을 분배하는 동작과,
   상기 적어도 하나의 이미지 프로세서를 이용하여 상기 복수 개의 분할 영상들을 처리하는 동작과,
   상기 전자 장치의 상태를 모니터링하는 동작과,
   상기 전자 장치의 상태의 변화에 응답하여 상기 적어도 하나의 이미지 프로세서의 제 1 영상 처리 능력이 변화하면, 상기 적어도 하나의 이미지 프로세서에 의해 처리될 수 있는 상기 데이터의 양을 조정하는 동작과,
   상기 처리된 복수 개의 분할 영상들을 결합하는 동작을 포함하고,
   상기 전자 장치의 상태는 배터리의 남은 충전량, 가열 정도 및 메모리 사용량 중 적어도 하나에 기반하여 결정되는 영상 처리 방법.
2. 제1항에 있어서, 상기 적어도 하나의 이미지 프로세서를 선택하는 동작은,
   상기 적어도 하나의 이미지 프로세서를 결정하기 위해 사용되는 분배 테이블로부터 상기 전자 장치의 상태에 기반하여 상기 명령어를 수행할 수 있는 영상 처리 파라미터를 추출하는 동작과,
   상기 추출된 영상 처리 파라미터를 기반으로 상기 적어도 하나의 이미지 프로세서를 선택하는 동작을 포함하는 영상 처리 방법.
3. 제2항에 있어서, 상기 분배 테이블은,
   상기 전자 장치의 적어도 하나의 상태에 기반하여 적어도 하나의 명령어를 수행할 수 있는 상기 적어도 하나의 이미지 프로세서에 대한 영상 처리 능력 정보를 포함하는 영상 처리 방법.
4. 제2항에 있어서, 상기 영상 처리 파라미터는,
   상기 분배 테이블로부터 상기 전자 장치의 상태에 기반하여 상기 명령어를 수행할 수 있는 상기 적어도 하나의 이미지 프로세서에 대한 영상 처리 능력 정보를 포함하는 영상 처리 방법.
5. 제2항에 있어서,
   상기 전자 장치의 상태에 기반하여 상기 분배 테이블을 주기적으로 업데이트하는 동작을 더 포함하는 영상 처리 방법.
6. 제1항에 있어서,
   상기 적어도 하나의 이미지 프로세서에 대한 영상 처리 속도가 미리 설정된 임계 속도보다 작은 경우, 상기 적어도 하나의 이미지 프로세서에 대한 상기 복수 개의 분할 영상들을 재분배하는 동작을 더 포함하는 영상 처리 방법.
7. 영상 처리를 수행하는 복수 개의 이미지 프로세서들과,
   프로세서를 포함하고, 상기 프로세서는,
   입력 영상을 처리하기 위한 명령어가 수신되면 전자 장치의 상태 및 상기 수신된 명령어의 타입에 따라 상기 복수 개의 이미지 프로세서들의 영상 처리 능력 정보를 확인하고, 상기 복수 개의 이미지 프로세서들의 상기 영상 처리 능력 정보에 기반하여 상기 복수 개의 이미지 프로세서들 중에서 적어도 하나의 이미지 프로세서를 선택하고, 상기 영상 처리 능력 정보에 기반하여, 상기 적어도 하나의 이미지 프로세서에 의해 처리될 수 있는 데이터의 양을 결정하고, 상기 입력 영상을 복수 개의 분할 영상들로 분할하고, 상기 결정된 데이터의 양에 기반하여, 상기 적어도 하나의 이미지 프로세서에 상기 복수 개의 분할 영상들을 분배하고, 상기 적어도 하나의 이미지 프로세서를 이용하여 상기 복수 개의 분할 영상들을 처리하고, 상기 전자 장치의 상태를 모니터링하고, 상기 전자 장치의 상태의 변화에 응답하여 상기 적어도 하나의 이미지 프로세서의 제 1 영상 처리 능력이 변화하면, 상기 적어도 하나의 이미지 프로세서에 의해 처리될 수 있는 상기 데이터의 양을 조정하고, 상기 처리된 복수 개의 분할 영상들을 결합하도록 설정되고,
   상기 전자 장치의 상태는 배터리의 남은 충전량, 가열 정도 및 메모리 사용량 중 적어도 하나에 기반하여 결정되는 전자 장치.
8. 제7항에 있어서, 상기 프로세서는,
   상기 적어도 하나의 이미지 프로세서를 결정하기 위해 사용되는 분배 테이블을 생성하도록 더 설정되는 전자 장치.
9. 제8항에 있어서, 상기 분배 테이블은,
   상기 전자 장치의 상태에 기반하여 적어도 하나의 명령어를 수행할 수 있는 상기 적어도 하나의 이미지 프로세서에 대한 영상 처리 능력 정보를 포함하는 전자 장치.
10. 제9항에 있어서, 상기 프로세서는,
    상기 분배 테이블로부터 상기 전자 장치의 상태에 기반하여 상기 명령어를 수행할 수 있는 영상 처리 파라미터를 추출하고, 상기 추출된 영상 처리 파라미터를 기반으로 상기 적어도 하나의 이미지 프로세서를 선택하도록 설정된 전자 장치.
11. 제10항에 있어서, 상기 영상 처리 파라미터는,
    상기 분배 테이블로부터 상기 전자 장치의 상태에 기반하여 상기 명령어를 수행할 수 있는 상기 적어도 하나의 이미지 프로세서에 대한 영상 처리 능력 정보를 포함하도록 설정된 전자 장치.
12. 제8항에 있어서, 상기 프로세서는,
    상기 전자 장치의 상태에 기반하여 상기 분배 테이블을 주기적으로 업데이트하도록 더 설정된 전자 장치.
13. 제7항에 있어서, 상기 프로세서는,
    상기 적어도 하나의 이미지 프로세서에 대한 영상 처리 속도가 미리 설정된 임계 속도보다 작은지를 판단하도록 더 설정된 전자 장치.
14. 제7항에 있어서, 상기 프로세서는,
    모니터링 장치를 제어하도록 설정된 전자 장치.
15. 제14항에 있어서, 상기 프로세서는,
    상기 전자 장치의 상태에 기반하여 상기 명령어를 수행하기 위한 영상 처리 파라미터를 추출하기 위하여 분배 테이블을 이용하도록 설정된 전자 장치.
16. 제15항에 있어서, 상기 프로세서는,
    상기 추출된 영상 처리 파라미터에 기반하여, 상기 입력 영상을 처리하기 위한 상기 적어도 하나의 이미지 프로세서를 결정하고, 상기 입력 영상을 분할하고 상기 분할된 입력 영상을 상기 적어도 하나의 이미지 프로세서에 분배하도록 설정된 전자 장치.
17. 컴퓨터로 판독 가능한, 명령어들을 저장하고 있는 기록 매체에 있어서,
    입력 영상을 처리하기 위한 명령어를 수신하는 동작과,
    전자 장치의 상태 및 상기 수신된 명령어의 타입에 따라 복수 개의 이미지 프로세서들의 영상 처리 능력 정보를 확인하는 동작과,
    상기 복수 개의 이미지 프로세서들의 상기 영상 처리 능력 정보에 기반하여, 상기 복수 개의 이미지 프로세서들 중에서 적어도 하나의 이미지 프로세서를 선택하는 동작과,
    상기 영상 처리 능력 정보에 기반하여, 상기 적어도 하나의 이미지 프로세서에 의해 처리될 수 있는 데이터의 양을 결정하는 동작과,
    상기 입력 영상을 복수 개의 분할 영상들로 분할하고, 상기 결정된 데이터의 양에 기반하여, 상기 적어도 하나의 이미지 프로세서에 상기 복수 개의 분할 영상들을 분배하는 동작과,
    상기 적어도 하나의 이미지 프로세서를 이용하여 상기 복수 개의 분할 영상들을 처리하는 동작과,
    상기 전자 장치의 상태를 모니터링하는 동작과,
    상기 전자 장치의 상태의 변화에 응답하여 상기 적어도 하나의 이미지 프로세서의 제 1 영상 처리 능력이 변화하면, 상기 적어도 하나의 이미지 프로세서에 의해 처리될 수 있는 상기 데이터의 양을 조정하는 동작과,
    상기 처리된 복수 개의 분할 영상들을 결합하는 동작을 실행시키되,
    상기 전자 장치의 상태는 배터리의 남은 충전량, 가열 정도 및 메모리 사용량 중 적어도 하나에 기반하여 결정되는 프로그램을 기록한 컴퓨터 판독 가능한 기록 매체.
    
    

Images