(19)【発行国】日本国特許庁(JP)
【公報種別】再公表特許(A1)
(11)【国際公開番号】WO2018235338
(43)【国際公開日】20181227
【発行日】20200423
(54)【発明の名称】映像表示装置及び映像表示方法
(51)【国際特許分類】
   H04N 21/431 20110101AFI20200331BHJP
   H04N 5/66 20060101ALI20200331BHJP
   H04N 5/20 20060101ALI20200331BHJP
【FI】
   !H04N21/431
   !H04N5/66 A
   !H04N5/20
【審査請求】未請求
【予備審査請求】未請求
【全頁数】60
【出願番号】2018553492
(21)【国際出願番号】JP2018006857
(22)【国際出願日】20180226
(31)【優先権主張番号】62/523,069
(32)【優先日】20170621
(33)【優先権主張国】US
(81)【指定国】 AP(BW,GH,GM,KE,LR,LS,MW,MZ,NA,RW,SD,SL,ST,SZ,TZ,UG,ZM,ZW),EA(AM,AZ,BY,KG,KZ,RU,TJ,TM),EP(AL,AT,BE,BG,CH,CY,CZ,DE,DK,EE,ES,FI,FR,GB,GR,HR,HU,IE,IS,IT,LT,LU,LV,MC,MK,MT,NL,NO,PL,PT,RO,RS,SE,SI,SK,SM,TR),OA(BF,BJ,CF,CG,CI,CM,GA,GN,GQ,GW,KM,ML,MR,NE,SN,TD,TG),AE,AG,AL,AM,AO,AT,AU,AZ,BA,BB,BG,BH,BN,BR,BW,BY,BZ,CA,CH,CL,CN,CO,CR,CU,CZ,DE,DJ,DK,DM,DO,DZ,EC,EE,EG,ES,FI,GB,GD,GE,GH,GM,GT,HN,HR,HU,ID,IL,IN,IR,IS,JO,JP,KE,KG,KH,KN,KP,KR,KW,KZ,LA,LC,LK,LR,LS,LU,LY,MA,MD,ME,MG,MK,MN,MW,MX,MY,MZ,NA,NG,NI,NO,NZ,OM,PA,PE,PG,PH,PL,PT,QA,RO,RS,RU,RW,SA,SC,SD,SE,SG,SK,SL,SM,ST,SV,SY,TH,TJ,TM,TN,TR,TT
(71)【出願人】
【識別番号】314012076
【氏名又は名称】パナソニックIPマネジメント株式会社
【住所又は居所】大阪府大阪市中央区城見2丁目1番61号
(74)【代理人】
【識別番号】100109210
【弁理士】
【氏名又は名称】新居 広守
(74)【代理人】
【識別番号】100137235
【弁理士】
【氏名又は名称】寺谷 英作
(74)【代理人】
【識別番号】100131417
【弁理士】
【氏名又は名称】道坂 伸一
(72)【発明者】
【氏名】山本 雅哉
【住所又は居所】日本国大阪府門真市大字門真1006番地 パナソニック株式会社内
(72)【発明者】
【氏名】小塚 雅之
【住所又は居所】日本国大阪府門真市大字門真1006番地 パナソニック株式会社内
(72)【発明者】
【氏名】柏木 吉一郎
【住所又は居所】日本国大阪府門真市大字門真1006番地 パナソニック株式会社内
(72)【発明者】
【氏名】西尾 歳朗
【住所又は居所】日本国大阪府門真市大字門真1006番地 パナソニック株式会社内
(72)【発明者】
【氏名】甲野 和彦
【住所又は居所】日本国大阪府門真市大字門真1006番地 パナソニック株式会社内
(72)【発明者】
【氏名】矢羽田 洋
【住所又は居所】日本国大阪府門真市大字門真1006番地 パナソニック株式会社内
(72)【発明者】
【氏名】廣田 健
【住所又は居所】日本国大阪府門真市大字門真1006番地 パナソニック株式会社内
(72)【発明者】
【氏名】森 美裕
【住所又は居所】日本国大阪府大阪市北区天神橋2−北1−30 HTS天神橋ビル アプライアンス&デジタルソリューション株式会社内
【テーマコード(参考)】
5C021
5C058
5C164
【Fターム(参考)】
5C021PA17
5C021PA56
5C021PA62
5C021RA08
5C021RA16
5C021RB03
5C021XA35
5C058BA05
5C058BA07
5C058BA13
5C058BA18
5C164PA34
5C164UB10S
5C164UB41S
5C164UB82P
5C164YA21
(57)【要約】
映像表示装置(102)は、映像の最大輝度に応じた変換カーブを用いて前記映像の輝度を変換するトーンマップ処理を行うトーンマップ処理部(123)と、前記トーンマップ処理後の映像を表示する表示部(124)とを備え、前記トーンマップ処理部(123)は、前記映像における最大輝度の時系列の変化に応じて、前記変換カーブを時系列に変更する第1トーンマップ処理を行うか、前記映像における最大輝度の時系列の変化に依らず、一定の変換カーブを用いる第2トーンマップ処理を行うか、を切り替える。
【特許請求の範囲】
【請求項1】
映像の最大輝度に応じた変換カーブを用いて前記映像の輝度を変換するトーンマップ処理を行うトーンマップ処理部と、
前記トーンマップ処理後の映像を表示する表示部とを備え、
前記トーンマップ処理部は、前記映像における最大輝度の時系列の変化に応じて、前記変換カーブを時系列に変更する第1トーンマップ処理を行うか、前記映像における最大輝度の時系列の変化に依らず、一定の変換カーブを用いる第2トーンマップ処理を行うか、を切り替える
映像表示装置。
【請求項2】
前記トーンマップ処理部は、前記映像にグラフィックスが含まれない場合、前記第1トーンマップ処理を行い、前記映像に前記グラフィックスが含まれる場合、前記第2トーンマップ処理を行う
請求項1記載の映像表示装置。
【請求項3】
前記トーンマップ処理部は、前記第1トーンマップ処理を行うか前記第2トーンマップ処理を行うかを示す第1フラグに応じて、前記第1トーンマップ処理を行うか、前記第2トーンマップ処理を行うかを決定する
請求項1記載の映像表示装置。
【請求項4】
前記第1フラグは、前記映像に字幕が含まれるか否かを示す第2フラグと、前記映像にメニューが含まれるか否かを示す第3フラグとを含む
請求項3記載の映像表示装置。
【請求項5】
前記トーンマップ処理部は、前記第1トーンマップ処理から前記第2トーンマップ処理に切り替わった場合、前記第2トーンマップ処理において、直前の変換カーブを継続して用いる
請求項1〜4のいずれか1項に記載の映像表示装置。
【請求項6】
前記トーンマップ処理部は、前記第2トーンマップ処理において、
境界輝度以上の輝度に対しては、前記映像における最大輝度の時系列の変化に応じて、前記変換カーブを時系列に変更し、
前記境界輝度未満の輝度に対しては、前記映像における最大輝度の時系列の変化に依らず、一定の変換カーブを用いる
請求項2記載の映像表示装置。
【請求項7】
前記トーンマップ処理部は、前記グラフィックスの輝度に応じて前記境界輝度を設定する
請求項6記載の映像表示装置。
【請求項8】
前記トーンマップ処理部は、
前記映像内の前記グラフィックスが重畳されているグラフィックス領域を検出し、
前記グラフィックス領域に対して、前記第2トーンマップ処理を行い、
前記映像内の前記グラフィックス領域以外の領域に対して、前記第1トーンマップ処理を行う
請求項2記載の映像表示装置。
【請求項9】
映像表示装置における映像表示方法であって、
映像の最大輝度に応じた変換カーブを用いて前記映像の輝度を変換するトーンマップ処理を行うトーンマップ処理ステップと、
前記トーンマップ処理後の映像を表示する表示ステップとを含み、
前記トーンマップ処理ステップでは、前記映像における最大輝度の時系列の変化に応じて、前記変換カーブを時系列に変更する第1トーンマップ処理を行うか、前記映像における最大輝度の時系列の変化に依らず、一定の変換カーブを用いる第2トーンマップ処理を行うか、を切り替える
映像表示方法。
【発明の詳細な説明】
【技術分野】
【0001】
本開示は、映像を表示する映像表示装置及び映像表示方法に関する。
【背景技術】
【0002】
特許文献1には、HDR(High Dynamic Range)映像において、画像上にグラフィックスをマップするための方法及びシステムについて記載されている。
【先行技術文献】
【特許文献】
【0003】
【特許文献1】特許第6104411号明細書
【非特許文献】
【0004】
【非特許文献1】White Paper Blu-ray Disc Read-Only Format (Ultra HD Blu-ray), Audio Visual Application Format Specifications for BD-ROM Version 3.1, August 2016, http://www.blu-raydisc.com/Assets/Downloadablefile/BD-ROM_Part3_V3.1_WhitePaper_160729_clean.pdf
【発明の概要】
【発明が解決しようとする課題】
【0005】
本開示は、表示する映像の質を向上できる映像表示装置又は映像表示方法を提供する。
【課題を解決するための手段】
【0006】
本開示の一態様に係る映像表示装置は、映像の最大輝度に応じた変換カーブを用いて前記映像の輝度を変換するトーンマップ処理を行うトーンマップ処理部と、前記トーンマップ処理後の映像を表示する表示部とを備え、前記トーンマップ処理部は、前記映像における最大輝度の時系列の変化に応じて、前記変換カーブを時系列に変更する第1トーンマップ処理を行うか、前記映像における最大輝度の時系列の変化に依らず、一定の変換カーブを用いる第2トーンマップ処理を行うか、を切り替える。
【発明の効果】
【0007】
本開示は、表示する映像の質を向上できる映像表示装置又は映像表示方法を提供できる。
【図面の簡単な説明】
【0008】
【図1】図1は、映像技術の進化について説明するための図である。
【図2】図2は、コンテンツに新たな映像表現を導入するときの、映像制作、配信方式、及び表示装置の関係について説明するための図である。
【図3A】図3Aは、トーンマップの一例を示す図である。
【図3B】図3Bは、トーンマップの一例を示す図である。
【図4A】図4Aは、スタティックトーンマップの一例を示す図である。
【図4B】図4Bは、ダイナミックトーンマップの一例を示す図である。
【図5】図5は、動画にグラフィックスを重畳して表示する例を示す図である。
【図6】図6は、主映像にグラフィックスが重畳されたときのダイナミックトーンマップの影響を示す図である。
【図7】図7は、実施の形態1に係る映像表示システムのブロック図である。
【図8A】図8Aは、実施の形態1に係る主映像ダイナミックメタデータ及びグラフィックス重畳フラグの一例を示す図である。
【図8B】図8Bは、実施の形態1に係る主映像ダイナミックメタデータ及びグラフィックス重畳フラグの一例を示す図である。
【図9】図9は、実施の形態1に係るトーンマップ処理部のブロック図である。
【図10】図10は、実施の形態1に係るトーンマップ処理部の変形例のブロック図である。
【図11A】図11Aは、実施の形態1に係る映像再生装置の処理を示すフローチャートである。
【図11B】図11Bは、実施の形態1に係る映像表示装置の処理を示すフローチャートである。
【図12A】図12Aは、実施の形態2に係る主映像ダイナミックメタデータ、グラフィックス重畳フラグ及びグラフィックス輝度情報の一例を示す図である。
【図12B】図12Bは、実施の形態2に係る主映像ダイナミックメタデータ、グラフィックス重畳フラグ及びグラフィックス輝度情報の一例を示す図である。
【図13A】図13Aは、実施の形態2に係る主映像ダイナミックメタデータ、グラフィックス重畳フラグ及びグラフィックス輝度情報の一例を示す図である。
【図13B】図13Bは、実施の形態2に係る主映像ダイナミックメタデータ、グラフィックス重畳フラグ及びグラフィックス輝度情報の一例を示す図である。
【図14A】図14Aは、従来のトーンマップによる輝度の変化を示す図である。
【図14B】図14Bは、実施の形態1に係るトーンマップによる輝度の変化を示す図である。
【図15】図15は、実施の形態2に係るトーンマップによる輝度の変化を示す図である。
【図16】図16は、実施の形態3に係るトーンマップ処理部のブロック図である。
【図17】図17は、実施の形態4に係る映像再生装置のブロック図である。
【図18】図18は、実施の形態5に係る映像再生装置のブロック図である。
【図19】図19は、実施の形態5に係るトーンマップの一例を示す図である。
【図20】図20は、実施の形態5に係るトーンマップ情報の一例を示す図である。
【発明を実施するための形態】
【0009】
[1−1.背景]
まず、映像技術の変遷について、図1を用いて説明する。図1は、映像技術の進化について説明するための図である。
【0010】
これまで、映像の高画質化としては、表示画素数の拡大に主眼がおかれ、Standard Definition(SD)の720×480画素から、High Definition(HD)の1920×1080画素の映像が普及している。
【0011】
近年、更なる高画質化を目指して、Ultra High Definition(UHD)の3840×1920画素、あるいは、4Kの4096×2048画素の、所謂4K映像の導入が開始された。
【0012】
4Kの導入と共に、ダイナミックレンジ拡張、色域拡大、又は、フレームレートの追加或いは向上なども検討されている。
【0013】
その中でも、ダイナミックレンジについては、暗部階調を維持しつつ、現行のテレビ信号で表現不能な鏡面反射光などの明るい光を、より現実に近い明るさで表現するための方式として、HDR(High Dynamic Range)が注目されている。具体的には、これまでのテレビ信号は、SDR(Standard Dynamic Range)と呼ばれ、最高輝度が100nitであった。これに対して、HDRでは1000nit以上まで最高輝度を拡大することが想定されている。HDRは、SMPTE(Society of Motion Picture & Television Engineers)、及びITU−R(International Telecommunications Union Radiocommunications Sector)などにおいて、マスタリングディスプレー用規格の標準化が進行中である。
【0014】
HDRの具体的な適用先としては、HD及びUHDと同様に、放送、パッケージメディア(Blu−ray(登録商標) Disc等)、及びインターネット配信などが想定されている。
【0015】
[1−2.マスター生成、配信方式、及び表示装置の関係]
図2は、コンテンツに新たな映像表現を導入するときの、映像制作、配信方式、及び表示装置の関係について説明するための図である。
【0016】
映像の高画質化のために新たな映像表現(画素数の増加等)を導入する場合には、図2に示すように、(1)映像制作側のHome Entertainment向けマスターを変更する必要がある。それに応じて、(2)放送、通信、及びパッケージメディア等の配信方式も、(3)その映像を表示するテレビ、又はプロジェクター等の表示装置も更新する必要がある。
【0017】
[1−3.トーンマップ]
トーンマップ(Tone Mapping)は、HDR映像の輝度と映像表示装置の最大輝度(Display Peak Luminance:DPL)との関係から、映像の最大輝度(Maximum Content Luminance Level:MaxCLL)がDPLを超える場合に、映像の輝度を変換し、映像の輝度をDPL以内に収める処理である。この処理により、映像の最大輝度付近の情報を失うことなく映像を表示できる。この変換は、映像表示装置の特性にも依存し、どのように表示するかの考え方にも依存するので、映像表示装置毎に異なった変換カーブが用いられる。
【0018】
図3A及び図3Bは、トーンマップの一例を示す図である。図3Aは、DPLが500nitの場合を示し、図3Bは、DPLが1000nitの場合を示す。また、図3A及び図3Bは、MaxCLLが1000nitの映像を表示した場合のトーンマップと、MaxCLLが4000nitの映像を表示した場合のトーンマップとの例である。
【0019】
図3Aに示すように、DPLが500nitの場合、どちらの映像も500nit以下でMaxCLLまでを表示できるように、輝度が変換されるが、MaxCLLが高い映像のほうが変換の度合いは大きくなる。
【0020】
図3Bに示すように、DPLが1000nitの場合、MaxCLLが1000nitの映像では、トーンマップが行われない。MaxCLLが4000nitの映像では、トーンマップが行われ、4000nitの輝度が1000nitに変換されて表示される。
【0021】
[1−4.ダイナミックメタデータとダイナミックトーンマップ]
図4Aは、スタティックメタデータを用いたトーンマップの例を示す図である。図4Bは、ダイナミックメタデータを用いたダイナミックトーンマップの例を示す図である。
【0022】
図4Aに示すように、スタティックメタデータ(MaxCLL)が用いられる場合、MaxCLLは一連の映像内で最も高い輝度を示すため、映像表示装置は、一連の映像に対して、固定的なトーンマップしか行えない。これに対して、映像表示装置は、図4Bの(a)に示すように、時間変化する輝度に合わせたメタデータ(ここではDynamic MaxCLLと称す)を用いることで、輝度が低い場合は、トーンマップを行わず(図4Bの(b))、輝度が高い場合はトーンマップを行う(図4Bの(c))というように、時間変化する輝度に合わせた最適なトーンマップを実現できる。
【0023】
[1−5.映像とグラフィックスとの合成]
図5は、動画にメニュー及び字幕などのグラフィックスを重畳して、映像表示装置で表示する例を示す図である。ここでは、Ultra HD Blu−rayの例を示す。
【0024】
グラフィックスを重畳する前の動画を主映像と表現する。Ultra HD Blu−rayではグラフィックスは、HD解像度で準備される。映像再生装置は、HDのグラフィックスに対してHD−UHD変換を行うことでUHDのグラフィックスを生成する。そして、映像再生装置は、得られたUHDのグラフィックスと、UHD解像度の主映像とを合成する。そして、映像再生装置は、合成後の映像を、HDMI(登録商標)(High−Definition Multimedia Interface)を通じて映像表示装置に送る。映像表示装置は、送られてきた映像をHDRとして表示する。
【0025】
また、映像再生装置は、ダイナミックメタデータを、主映像の輝度の時間変化に基づいて決定し、HDMIを通じて、映像表示装置に送る。映像表示装置は、送られてきたダイナミックメタデータに基づき、主映像に字幕及びメニューが重畳された映像信号に対して、ダイナミックトーンマップを施す。
【0026】
この状況は、放送又は通信によるOTT(Over The Top)サービスでのHDR映像を表示する場合でも、主映像にメニュー又は字幕が重畳され、得られた映像が映像表示装置で表示される場合は同様である。
【0027】
[1−6.動画にグラフィックスを重畳した映像データにダイナミックトーンマップを行う場合の課題]
ダイナミックメタデータ方式では、HDR映像の輝度分布などの輝度に関わるメタデータがフレーム毎に指定され、映像信号とともに、そのようなメタデータが、映像表示装置に送られる。映像表示装置は、当該映像表示装置の最大輝度などの表示能力に応じて、送られてきたメタデータを参考にして、輝度を変換するなどの処理を行う。このようなダイナミックメタデータ方式は、映像表示装置の輝度などの表示性能によらずできるだけ一定の品質の映像を表示する方式として、注目されている。
【0028】
しかしながら、ダイナミックメタデータは、時間的に変化するために、本来一定であるべき映像の表示が、安定しないという問題がある。
【0029】
表示すべき映像が、同時に編集、又は監修された映像、いわゆる動画だけであるならば、ある程度、映像の状況を考慮した処理が可能である。このような動画を主映像とし、同時に、本来一定であり、まったく変動しない、字幕又はメニューなどのグラフィックスデータが主映像に重畳されて表示されると、ダイナミックメタデータを使用した処理により、一定であるべきグラフィックスの輝度又は色が変化するという悪影響が出てくる。この悪影響は、主映像の輝度が高く、映像表示装置の輝度が低いほど顕著となる。
【0030】
図6は、主映像にグラフィックスが重畳されたときのダイナミックトーンマップの影響を示す図である。ここで、図6の(a)に示すように、重畳されるグラフィックスの輝度を350nit仮定する。図6の(b)に示すように主映像の輝度が低い区間では、トーンマップが行われず、グラフィックスは本来の輝度である350nitで映像表示装置に表示される。一方、図6の(c)に示すように、主映像の輝度が高い区間では、トーンマップが行われ、グラフィックスの輝度は、350nitより低い輝度で映像表示装置に表示される。このように、本来一定であるべきグラフィックスの輝度が時間的に変動することになり、好ましくない状態となる。ここでは輝度だけの影響としたが、実際の映像表示装置では、色成分も影響を受けるために色も影響を受けることもある。
【0031】
[1−7.解決方法]
上記課題を避ける手段として、重畳するグラフィックスの位置情報を映像表示装置に送り、グラフィックスが表示されている部分のみ、ダイナミックメタデータを適用しない方法が考えられる。しかし、この方法は、表示画面の全領域において、グラフィックスが表示されているかどうかの情報の伝送が必要であり、映像表示装置での処理も、表示ピクセル単位での判断が必要など、実現はかなり困難である。
【0032】
本開示では以下の解決方法を用いる。第1の方法では、映像再生装置は、ダイナミックメタデータの情報として、主映像にグラフィックスが重畳されているかいないかを示す「グラフィックス重畳フラグ」を映像表示装置に送る。グラフィックスとしては、メニュー及び字幕があるため、映像再生装置は、「グラフィックス重畳フラグ」として、「メニュー重畳フラグ」及び「字幕重畳フラグ」を映像表示装置に送ってもよい。
【0033】
映像表示装置は、メニュー重畳フラグの状態により、ダイナミックトーンマップのOn/Off又はその強さを変化させる。これにより、重畳されたグラフィックスへのダイナミックトーンマップの影響を低減できる。
【0034】
第2の方法では、映像再生装置は、第1の方法に加え、重畳するグラフィックスの最大輝度の情報をダイナミックメタデータの情報として、映像表示装置に送る。重畳フラグと同様に、字幕とメニューで、最大輝度情報を個別に設けてもよい。
【0035】
映像表示装置は、グラフィックス重畳フラグとグラフィックスの最大輝度の情報に応じて、より細かく、ダイナミックトーンマップを制御することができる。
【0036】
第3の方法では、映像表示装置は、フレーム間相関などを用い、一定に表示されるグラフィックスを検出し、その部分に対しては、ダイナミックトーンマップを抑制する。
【0037】
第4の方法では、Ultra HD Blu−ray再生装置、放送受信装置又はインターネット放送受信装置などのHDR映像再生装置は、接続されている映像表示装置の最大輝度情報に応じて、映像表示装置で行うトーンマップの影響を低減するように重畳するグラフィックスの輝度を変更する。また、映像再生装置は、映像表示装置の最大輝度を、操作者による設定により取得してもよいし、映像再生装置が接続しているHDMI上のEDIDにより映像表示装置から取得してもよい。
【0038】
映像表示装置によるトーンマップの方法は様々であるので、グラフィックスの輝度の調整は、ある幅で調整可能とする。その調整の方法としては、操作者が設定する方法、又は映像表示装置毎のデータベースより取得した情報に基づき調整を行う方法などがある。
【0039】
第5の方法では、HDR映像再生装置は、グラフィックスを重畳したHDR映像を表示する映像表示装置のダイナミックトーンマップの方法を仮定し、グラフィックスを重畳する前に、重畳するグラフィックスに映像表示装置におけるダイナミックトーンマップの逆変換を施す。これにより、重畳したグラフィックスが、ダイナミックトーンマップを施した後に、元の輝度及び色で表示されるようにできる。
【0040】
接続される映像表示装置のダイナミックトーンマップ方法を仮定する方法としては以下の方法を用いることができる。映像再生装置は、簡易的に、影響を受けない最大輝度として、映像表示装置の最大輝度の、例えば90%に達する映像の輝度などの情報により対応する。より細かくは、映像再生装置は、これらの情報を、データベースより取得して対応してもよい。または、映像再生装置は、テストパターンにより測定を行い、測定結果に基づき設定を行ってもよい。
【0041】
以上の方法により、放送、Blu−ray等のパッケージメディア、又はOTT等のインターネット配信により送られてきたHDR映像信号に対して、ダイナミックトーンマップを行う場合において、メニュー又は字幕などのグラフィックスに対するダイナミックトーンマップの影響を低減できる。これにより、安定した字幕又はメニューの表示と、映像表示装置の最大輝度(DPL)及び動画の最大輝度に応じたダイナミックトーンマップの効果とを得ることができる。
【0042】
また、特に、映像の輝度に比較して低い輝度の映像表示装置におけるHDR効果大きくできる一方、スタティックトーンマップと同様な品位が高いメニュー及び字幕の表示を実現できる。
【0043】
また、字幕とメニューの処理をわけることで、字幕及びメニューのそれぞれに適した処理により、ダイナミックトーンマップの影響をより少なくすることができる。具体的には、字幕の輝度は、ほぼ一定の輝度であるのに対して、メニューの輝度は変化する。また、字幕を主映像再生時に表示する場合は、最初から最後まで字幕が表示されるとともに、主映像に同期している。一方で、メニューは操作する場合のみに表示されるとともに、主映像とは同期しない。このような、字幕とメニューとの性質の違いを考慮した処理を行うことができる。
【0044】
[2.実施の形態1]
本実施の形態では、映像再生装置は、グラフィックスを主映像に重畳しているかどうかを示すグラフィックス重畳フラグを、ダイナミックメタデータの一部に埋め込み映像表示装置に送る。映像表示装置は、グラフィックス重畳フラグの状態により、ダイナミックメタデータを用いたダイナミックトーンマップのOn/Off又はその強さを変化させる。これにより、重畳されたグラフィックスへのダイナミックトーンマップの影響を低減できる。グラフィックス重畳フラグは、字幕の表示の有り/無しを表す字幕重畳フラグと、メニュー表示の有り/無しを示すメニュー重畳フラグとの二つから構成されてもよい。
【0045】
[2−1.映像表示システムの構成]
図7は、本実施の形態に係る映像表示システム100の構成を示すブロック図である。図7に示す映像表示システム100は、映像再生装置101と、映像表示装置102とを含む。
【0046】
映像再生装置101は、映像を再生し、得られた映像を映像表示装置102に出力する。この映像再生装置101は、取得部111と、デマルチプレクサ112と、主映像デコード部113と、字幕デコード部114と、メニューデコード部115と、メタデータ取得部116と、グラフィックス合成部117と、主映像合成部118と、映像送出部119とを含む。
【0047】
取得部111は、映像信号を取得する。例えば、映像再生装置101がディスク再生装置である場合には、取得部111は、ディスクを再生することで映像信号を取得する。また、映像再生装置101が放送受信装置である場合は、取得部111は、放送波を受信することで映像信号を取得する。また、映像再生装置101がインターネット放送受信装置である場合は、取得部111は、インターネット放送を受信することで映像信号を取得する。
【0048】
デマルチプレクサ112は、映像信号に含まれる符号化された主映像信号、字幕信号及びメニュー信号をそれぞれ、主映像デコード部113、字幕デコード部114及びメニューデコード部115に出力する。
【0049】
主映像デコード部113は、デマルチプレクサ112から出力された符号化された主映像信号を復号する。
【0050】
字幕デコード部114は、デマルチプレクサ112から出力された符号化された字幕信号を復号する。また、字幕デコード部114は、ユーザの操作等に基づき、字幕を表示するか否か、及び表示する字幕の種別を選択し、字幕を表示する場合には、選択した字幕をグラフィックス合成部117に出力する。
【0051】
メニューデコード部115は、デマルチプレクサ112から出力された符号化されたメニュー信号を復号する。また、メニューデコード部115は、ユーザの操作等に基づき、メニューを表示するか否か、及び表示するメニューの種別を選択し、メニューを表示する場合には、選択したメニューをグラフィックス合成部117に出力する。なお、メニューデコード部115は、映像信号からの情報だけでなく、映像再生装置101で動作するプログラムによりメニューを合成及び表示してもよい。
【0052】
メタデータ取得部116は、主映像ダイナミックメタデータを取得する。例えば、メタデータ取得部116は、主映像信号に含まれる情報に基づき主映像ダイナミックデータを生成する。
【0053】
グラフィックス合成部117は、字幕とメニューとを構成することでグラフィックス情報を生成する。なお、上述したようにグラフィックス合成部117は、字幕及びメニューの解像度を変換してもよい。例えば、Ultra HD Blu−rayの場合には、グラフィックス合成部117は、HDの字幕及びメニューをUHDの字幕及びメニューに変換する。
【0054】
また、グラフィックス合成部117は、グラフィックス情報を生成し、生成したグラフィックス情報を主映像に重畳する場合、グラフィックス重畳フラグをONとして、映像送出部119に送る。また、グラフィックス合成部117は、グラフィックス情報を主映像に重畳しない場合、グラフィックス重畳フラグをOFFとして、映像送出部119に送る。なお、グラフィックス重畳フラグは、映像再生装置101内のプログラムにより生成されてもよいし、他の手段によって生成されてもよい。
【0055】
主映像合成部118は、主映像デコード部113で得られた主映像と、グラフィックス合成部117で生成されたグラフィックス情報とを合成することで映像信号を生成する。
【0056】
映像送出部119は、主映像合成部118で生成された映像信号と、ダイナミックメタデータとを、HDMIケーブル等の映像信号伝送手段を介して映像表示装置102に伝送する。ダイナミックメタデータは、メタデータ取得部116で取得された主映像ダイナミックメタデータと、グラフィックス合成部117で生成されたグラフィックス重畳フラグとを含む。
【0057】
図8Aは、映像再生装置101から映像表示装置102に送られる主映像ダイナミックメタデータ及びグラフィックス重畳フラグの構成例を示す図である。図8Aに示すように、主映像ダイナミックメタデータは、主映像の最大輝度及び平均輝度を示す。例えば、主映像ダイナミックメタデータは、1フレーム単位又は複数フレーム単位の最大輝度及び平均輝度を示す。
【0058】
図8Bは、主映像ダイナミックメタデータ及びグラフィックス重畳フラグの別の構成例を示す図である。図8Bに示すようにグラフィックス重畳フラグは、字幕を主映像に重畳しているかどうかを示す字幕重畳フラグと、メニューを主映像に重畳しているかどうかを示すメニュー重畳フラグとを含んでもよい。
【0059】
次に、映像表示装置102の構成について説明する。映像表示装置102は、映像受信部121と、メタデータ取得部122と、トーンマップ処理部123と、表示部124とを備える。
【0060】
映像受信部121は、映像再生装置101から送られてくる映像信号とダイナミックメタデータを受け取る。映像受信部121は、映像信号とダイナミックメタデータとを分離し、映像信号をトーンマップ処理部123へ送り、ダイナミックメタデータをメタデータ取得部122に送る。メタデータ取得部122は、ダイナミックメタデータに含まれる主映像ダイナミックメタデータ及びグラフィックス重畳フラグを制御信号として、トーンマップ処理部123へ送る。
【0061】
トーンマップ処理部123は、主映像ダイナミックメタデータに従い、映像信号のトーンマップ処理を行う。具体的には、トーンマップ処理部123は、グラフィックス重畳フラグがOFFの場合には、主映像ダイナミックメタデータに従い、映像信号のトーンマップ処理(ダイナミックトーンマップ処理)を行う。一方、トーンマップ処理部123は、グラフィックス重畳フラグがONの場合は、重畳されているグラフィックスへのダイナミックトーンマップの影響を低減したトーンマップ処理を行う。表示部124は、トーンマップ処理後の映像信号を表示する。
【0062】
[2−2.トーンマップ処理部]
トーンマップ処理部123の詳細について説明する。図9は、トーンマップ処理部123の構成を示すブロック図である。トーンマップ処理部123は、係数演算部131と、係数保持部132と、トーンマップ部133と、切替部SW1及びSW2とを備える。
【0063】
映像受信部121からの映像信号は、トーンマップ部133へ送られる。メタデータ取得部122からの主映像ダイナミックメタデータは、係数演算部131に送られる。
【0064】
係数演算部131は、トーンマップ部133におけるトーンマップ処理で用いられるトーンマップ係数を、映像表示装置102の輝度などの映像表示能力に従って算出する。係数保持部132は、係数演算部131が算出したトーンマップ係数を保持する。ここで、トーンマップ係数とは、トーンマップ処理に用いられる変換カーブを示す関数に含まれる係数である。つまり、トーンマップ係数により変換カーブが決定される。
【0065】
切替部SW1は、係数演算部131で算出されたトーンマップ係数(A)と、係数保持部132に保持されているトーンマップ係数(B)との一方を選択し、選択したトーンマップ係数をトーンマップ部133に送る。切替部SW2は、係数演算部131で算出されたトーンマップ係数(A)と、係数保持部132に保持されるトーンマップ係数(B)との一方を選択し、選択したトーンマップ係数を係数保持部132に入力する。つまり、切替部SW2は、係数保持部132に保持されるトーンマップ係数を、係数演算部131で新たに算出されたトーンマップ係数に更新するか(A)、現在保持しているトーンマップ係数を引き続き保持するか(B)を切り替える。
【0066】
切替部SW1及びSW2は、連動しており、グラフィックス重畳フラグがOFFの場合は、共にAに接続され、グラフィックス重畳フラグがONの場合は共にBに接続される。これにより、グラフィックスが重畳されている場合、ダイナミックメタデータに基づくダイナミックトーンマップが固定される。
【0067】
また、グラフィックス重畳フラグが、字幕重畳フラグとメニュー重畳フラグとを含む場合、その組み合わせにより、トーンマップ部133へ入力されるトーンマップ係数の処理を変えることができる。一例として、字幕重畳フラグがONの場合は、トーンマップ係数を固定とする(切替部SW1及びSW2はBに接続される)が、メニュー重畳フラグだけがONの場合は、通常のトーンマップ係数が用いられる(切替部SW1及びSW2はAに接続される)などである。
【0068】
また、本構成は、一例であり、トーンマップ処理部123は、グラフィックス重畳フラグがONの場合、トーンマップ係数を特定の輝度以下で固定してもよいし、トーンマップ処理を行わないとしてもよい。
【0069】
図10は、トーンマップ係数を特定の輝度以下で固定する場合のトーンマップ処理部123Aの構成を示す図である。トーンマップ処理部123Aは、切替部SW1の代わりに係数合成部134を備える。
【0070】
係数合成部134は、グラフィックス重畳フラグがONの場合、予め定められた輝度である境界輝度以上の輝度に対してはダイナミックトーンマップ処理を行うが、境界輝度未満の輝度に対しては(1)トーンマップを固定する、(2)トーンマップ処理を行わない、(3)トーンマップの変動を抑える、又は(4)トーンマップの影響が人に感知できない程度とするなどの処理を行う。ここで、境界輝度とは、例えば、グラフィックスに用いられている輝度の最大値より高い輝度である。これにより、グラフィックスに用いられる輝度範囲においてトーンマップが変動することが抑制される。また、上記処理において、境界輝度以上の変換カーブと、境界輝度未満の変換カーブとの連続性を維持するために、係数合成部134は、これらの境界領域において変換カーブが滑らかに変化するように変換カーブを補正してもよい。
【0071】
なお、ここでは、映像、字幕、及びメニューのみについての構成を説明したが、映像再生装置101、及び映像表示装置102では、音声信号なども処理、伝送、及び出力する。これらは、本開示には、かかわりがないために、以降の説明を含め省略している。
【0072】
また、グラフィックス重畳フラグが、字幕重畳フラグとメニュー重畳フラグとを含む場合、図10に示す係数合成部134は、字幕重畳フラグとメニュー重畳フラグの状態により、異なる合成の方法を用いる。例えば、係数合成部134は、字幕重畳フラグがONの場合と、メニュー合成フラグのみがONの場合とで、上記境界輝度を異なる値に設定する。
【0073】
係数合成部134は、表示部124の最高輝度、及びその他の映像に関わる特性を考慮して境界輝度を設定する。ここで、一般的にメニューの輝度レベルは字幕の輝度レベルより高い。よって、係数合成部134は、メニュー重畳フラグがONの場合には、字幕重畳フラグのみがONの場合に比べて、境界輝度を高く設定する。
【0074】
なお、メニューは、使用者の意思によって重畳するかどうかが決められるものであり、メニューへのダイナミックトーンマップの影響よりも、主映像のトーンマップを重視するという考え方もできる。よって、係数合成部134は、メニュー重畳フラグのみがONの場合には、字幕重畳フラグがONの場合に比べて、境界輝度を低く設定してもよい。
【0075】
[2−3.映像表示システムの動作]
映像表示システムの動作の流れを説明する。図11Aは、映像再生装置101の動作を示すフローチャートである。映像再生装置101は、映像の再生を開始した後、グラフィックス(字幕、及びメニュー)の処理状態によりグラフィックスが主映像に重畳されているかどうかを判定する(S101)。グラフィックスが主映像に重畳されている場合(S101でYes)、映像再生装置101は、グラフィックス重畳フラグをONに設定する(S102)。一方、グラフィックスが主映像に重畳されていない場合(S101でNo)、映像再生装置101は、グラフィックス重畳フラグをOFFに設定する(S103)。そして、映像再生装置101は、映像再生が完了するか、あるいは、再生停止操作があるまで、ステップS101〜S103の処理を繰り返し行う(S104)。例えば、この処理は、1フレーム単位又は複数フレーム単位で繰り返し行われる。
【0076】
図11Bは、映像表示装置102の動作を示すフローチャートである。映像表示装置102は、映像表示の開始と同時にトーンマップ処理を開始する。この時、映像表示装置102は、グラフィックス重畳フラグがONであるかOFFであるかを判定する(S111)。グラフィックス重畳フラグがOFFの場合(S111でNo)、映像表示装置102は、切替部SW1及びSW2をAに接続し、主映像ダイナミックメタデータに基づいたトーンマップ処理を行うことで、トーンマップを更新する(S112)。つまり、係数演算部131は、現在時刻の主映像ダイナミックメタデータに基づきトーンマップ係数を算出し、トーンマップ部133は、現在時刻の映像に対して、算出されたトーンマップ係数を用いてトーンマップ処理を行う。このとき、係数保持部132は、新たに算出されたトーンマップ係数を保持する。
【0077】
グラフィックス重畳フラグがONになると(S111でYes)、映像表示装置102は、切替部SW1及びSW2をBに接続することで、トーンマップを固定する(S113)。具体的には、係数保持部132の入力端子が、自身の出力端子に接続されることにより、係数保持部132は、切替部SW2がAからBになる直前のトーンマップ係数を保持する。また、切替部SW1がBに接続されることから、トーンマップ部133で用いられるトーンマップ係数が固定される。よって、トーンマップの時間変動がなくなる。
【0078】
また、グラフィックス重畳フラグがOFFになると(S111でNo)、トーンマップ係数の時間変動が開始される(S112)。これらのS111〜S113の処理が、映像の受信完了又は表示OFFの操作がなされるまで繰り返し行われる(S114)。例えば、この処理は、1フレーム単位又は複数フレーム単位で繰り返し行われる。
【0079】
以上のように、本実施の形態に係る映像表示システム100は、映像の最大輝度に応じた変換カーブを用いて映像の輝度を変換するトーンマップ処理を行うトーンマップ処理部123と、トーンマップ処理後の映像を表示する表示部124とを備える。トーンマップ処理部123は、映像における最大輝度の時系列の変化に応じて、変換カーブを時系列に変更する第1トーンマップ処理を行うか(S112)、映像における最大輝度の時系列の変化に依らず、一定の変換カーブを用いる第2トーンマップ処理を行うか(S113)、を切り替える。
【0080】
これにより、例えば、映像の種別等に応じて、トーンマップに用いる変換カーブを時系列に変更するか、固定するかを切り替えることができる。よって、映像の種別等に応じて、各時刻において最適なトーンマップを行うか、トーンマップを固定することで、本来一定であるべき映像の輝度が変化することを抑制するかを切り替えることができる。このように、映像表示システム100は、表示する映像の質を向上できる。
【0081】
また、映像表示システム100は、さらに、主映像にグラフィックスを合成することで映像を生成する合成部(主映像合成部118及びグラフィックス合成部117)を備える。トーンマップ処理部123は、主映像にグラフィックスが合成されていない場合(S111でNo)、第1トーンマップ処理を行い(S112)、主映像にグラフィックスが合成された場合(S111でYes)、第2トーンマップ処理を行う(S113)。これにより、グラフィックスの輝度の変化を抑制できる。
【0082】
また、合成部は、主映像にグラフィックスを合成したか否かを示す第1フラグ(グラフィックス重畳フラグ)を生成する。トーンマップ処理部123は、第1フラグに応じて、第1トーンマップ処理を行うか、第2トーンマップ処理を行うかを決定する。
【0083】
また、グラフィックスは、字幕及びメニューを含み、第1フラグは、主映像に字幕を合成したか否かを示す第2フラグ(字幕重畳フラグ)と、主映像にメニューを合成したか否かを示す第3フラグ(メニュー重畳フラグ)とを含む。これによれば、字幕が重畳されている場合とメニューが重畳されている場合とで、それぞれに適したトーンマップ処理を行うことができる。
【0084】
例えば、トーンマップ処理部123は、第1トーンマップ処理から第2トーンマップ処理に切り替わった場合、第2トーンマップ処理において、直前の変換カーブを継続して用いる。これによれば、第1トーンマップ処理から第2トーンマップ処理への切り替わりにおいて輝度が大きく変化することを抑制できる。
【0085】
例えば、図10に示すように、トーンマップ処理部123Aは、第2トーンマップ処理において、境界輝度以上の輝度に対しては、映像における最大輝度の時系列の変化に応じて、変換カーブを時系列に変更し、境界輝度未満の輝度に対しては、映像における最大輝度の時系列の変化に依らず、一定の変換カーブを用いる。
【0086】
これによれば、境界輝度以上の木地に対しては、各時刻において最適なトーンマップを行うことができるとともに、境界輝度未満の輝度に対しては、輝度が変化することを抑制できる。
【0087】
また、本実施の形態に係る映像表示装置102は、映像の最大輝度に応じた変換カーブを用いて映像の輝度を変換するトーンマップ処理を行うトーンマップ処理部123と、トーンマップ処理後の映像を表示する表示部124とを備える。トーンマップ処理部123は、映像における最大輝度の時系列の変化に応じて、変換カーブを時系列に変更する第1トーンマップ処理を行うか(S112)、映像における最大輝度の時系列の変化に依らず、一定の変換カーブを用いる第2トーンマップ処理を行うか(S113)、を切り替える。
【0088】
これにより、例えば、映像の種別等に応じて、トーンマップに用いる変換カーブを時系列に変更するか、固定するかを切り替えることができる。よって、映像の種別等に応じて、各時刻において最適なトーンマップを行うか、トーンマップを固定することで、本来一定であるべき映像の輝度が変化することを抑制するかを切り替えることができる。このように、映像表示装置102は、表示する映像の質を向上できる。
【0089】
また、トーンマップ処理部123は、映像にグラフィックスが含まれない場合(S111でNo)、第1トーンマップ処理を行い(S112)、映像にグラフィックスが含まれる場合(S111でYes)、第2トーンマップ処理を行う(S113)。これにより、グラフィックスの輝度の変化を抑制できる。
【0090】
また、トーンマップ処理部123は、第1トーンマップ処理を行うか第2トーンマップ処理を行うかを示す第1フラグ(グラフィックス重畳フラグ)に応じて、第1トーンマップ処理を行うか、第2トーンマップ処理を行うかを決定する。
【0091】
また、第1フラグは、映像に字幕が含まれるか否かを示す第2フラグ(字幕重畳フラグ)と、映像にメニューが含まれるか否かを示す第3フラグ(メニュー重畳フラグ)とを含む。これによれば、字幕が重畳されている場合とメニューが重畳されている場合とで、それぞれに適したトーンマップ処理を行うことができる。
【0092】
[3.実施の形態2]
本実施の形態では、実施の形態1の処理に加え、映像再生装置101は、主映像に重畳されるグラフィックスの輝度情報をダイナミックメタデータの一部に埋め込む。映像表示装置102は、メニュー重畳フラグの状態及びグラフィックスの輝度情報に基づき、ダイナミックトーンマップのOn/Off又はその強さを変化させる。これにより、重畳されたグラフィックスへのダイナミックトーンマップの影響を低減できる。
【0093】
[3−1.構成]
本実施の形態に係る映像再生装置101は、以下の点が実施の形態1と異なる。図7に示すグラフィックス合成部117は、グラフィックス情報を主映像に重畳する場合、グラフィックス重畳フラグをONにするとともに、グラフィックスの輝度情報であるグラフィックス輝度情報を抽出し、抽出したグラフィックス輝度情報を映像送出部119に送る。映像送出部119は、グラフィックス輝度情報をダイナミックメタデータの一部として、映像表示装置102に送出する。グラフィックス合成部117は、グラフィックス輝度情報として、予め設定された固定値を用いてもよいし、輝度情報をつどグラフィックス情報から抽出してもよいし、別の手段により提供されるメタデータを参照することでグラフィックス輝度情報を取得してもよい。
【0094】
また、グラフィックス輝度情報は、字幕の輝度情報とメニューの輝度情報とを含んでもよい。
【0095】
本実施の形態に係る映像表示装置102は、以下の点が実施の形態1と異なる。図7に示すメタデータ取得部122は、主映像ダイナミックメタデータ及びグラフィックス重畳フラグに加えグラフィックス輝度情報を取得し、これらの情報をトーンマップ処理部123に送る。トーンマップ処理部123の詳細構成は、例えば、図10に示す構成であり、係数合成部134を備える。係数合成部134には、グラフィックス重畳フラグに加え、グラフィックス輝度情報が入力され、係数合成部134は、グラフィックスの輝度情報を用いたトーンマップ係数の合成処理を行う。例えば、係数合成部134は、グラフィックス輝度情報以下の輝度については、トーンマップを時間変動しない。つまり、係数合成部134は、実施の形態1における境界輝度としてグラフィックス輝度情報を用いる。
【0096】
また、実施の形態1及び実施の形態2において、係数合成部134は、境界輝度を、映像表示装置102の設定などに基づき調整してもよい。同様に、映像再生装置101は、グラフィックス輝度情報をそのまま映像表示装置102に送るのではなく、環境、再生する映像の種類、又は使用者の好みなどに基づき、グラフィックス輝度情報を調整したうえで、映像表示装置102に送ってもよい。これらにより、ダイナミックトーンマップのグラフィックスへの影響度合いと主映像への適応度合いを調整できる。
【0097】
グラフィックス輝度情報は、字幕輝度情報とメニュー輝度情報とを含んでもよい。この場合、係数合成部134は、実施の形態1と同様に、字幕とメニューで、ダイナミックトーンマップの合成方法を変えてもよい。
【0098】
図12Aは、本実施の形態において映像再生装置101から映像表示装置102に送られる主映像ダイナミックメタデータ、グラフィックス重畳フラグ及びグラフィックス輝度情報の構成例を示す図である。グラフィックス輝度情報は、例えば、グラフィックスに用いられている最大輝度を示す。例えば、主映像ダイナミックメタデータは、1フレーム単位又は複数フレーム単位の最大輝度及び平均輝度を示す。
【0099】
図12Bは、主映像ダイナミックメタデータ、グラフィックス重畳フラグ及びグラフィックス輝度情報の別の構成例を示す図である。図12Bに示すようにグラフィックス輝度情報は、字幕の最大輝度と、メニューの最大輝度とを含んでもよい。
【0100】
また、グラフィックス輝度情報にグラフィックス重畳フラグの用途が含まれてもよい。例えば、グラフィックス輝度情報の一部又は特定の値が、グラフィックス重畳フラグがOFFであることを示し、その他の値によりグラフィックス重畳フラグがONであることを示してもよい。
【0101】
図13Aは、この場合の映像再生装置101から映像表示装置102に送られる主映像ダイナミックメタデータ、及びグラフィックス輝度情報の構成例を示す図である。図13Aに示す例では、グラフィックス輝度情報は8ビットで構成され、0−1020nitまでの輝度を示す。値0はグラフィックスが存在するが輝度が不明であることを示し、値1はグラフィックスが存在しないことを示し、その他の値は、8nitから1020nitまで、4nit単位の明るさを示す。なお、グラフィックス輝度情報のビット構成、明るさの範囲、0、1その他の値の意味については、この限りでなく、システム要件に合わせて変更できる。
【0102】
また、図13Bに示すように、グラフィックス輝度情報が字幕輝度情報とメニュー輝度情報とを含む場合も同様に構成できる。
【0103】
[3−2.効果]
図14Aは、グラフィックスが字幕である場合における、従来のダイナミックトーンマップによる字幕の輝度の変化を示す図である。字幕の輝度レベルが200nit以下の場合において、時間的にトーンマップが変化すると、図14Aからわかるように、0から200nit付近の輝度も変化し、本来一定である字幕の輝度が変化する。
【0104】
これに対し、実施の形態1では、所定の境界輝度以下の輝度に対して、トーンマップの時間変化が発生しないようにできる。これにより、図14Bからわかるように、字幕輝度である200nit以下の時間変化がなく、安定した輝度で字幕が表示される。ここで、境界輝度は、例えば標準的な字幕の輝度レベルより高い固定値であり、変換カーブのニーポイントも固定される。
【0105】
しかしながら、境界輝度が固定されると、ダイナミックトーンマップの変化幅が制限され、主映像に対して、ダイナミックトーンマップの効果が少なくなると言う課題がある。特に映像表示装置102の最大輝度(DPL)が低いときに問題が顕著である。もちろん、映像表示装置102において、グラフィックスデータの輝度を一定値以下に想定するなどダイナミックトーンマップの方法を工夫することにより、ダイナミックトーンマップの効果を大きくすることができる。しかしながら、この場合、想定以上の輝度のグラフィックスデータが表示される場合に、グラフィックスデータの表示がダイナミックトーンマップの影響を受けやすくなるなどの課題がある。
【0106】
これに対し、実施の形態2では、字幕の輝度情報に基づいて境界輝度を変化させることができるために、図15に示すように、より自由度が高いダイナミックトーンマップを主映像に適用できる。図15では、実際の字幕の輝度が100nitであった場合を図示している。図15に示すように、この場合、図14Bに示す境界輝度を200nitに固定して処理する場合に対して、より自由度が高いダイナミックトーンマップを実現できる。この効果は、接続する映像表示装置102の最大輝度が低いほど大きくなる。
【0107】
[3−3.詳細な構成例]
本実施の形態では、映像再生装置101において、主映像に重畳されるグラフィックスの輝度情報をダイナミックメタデータの一部に埋め込むと説明したが、その埋め込みの方法の例を説明する。
【0108】
Blu−rayディスクのようなパッケージメディアでは、映像を再生する場合、連続する1つの再生経路をプレイリストというファイルに定義し、ディスク上に記録している。プレイリストは、ディスク上の映像ストリームのうちどれを再生するのか、その再生開始位置、完了位置あるいは再生時間などの再生管理情報を記録している。
【0109】
そのプレイリストに、主映像と同時に表示するグラフィックスの輝度情報、もしくは輝度レンジの上限情報、を記録する。これにより、映像再生装置101は、容易に主映像とともに表示されるグラフィックスの輝度情報、もしくは輝度レンジの上限情報、を取得し、取得した情報を映像表示装置102に送ることができる。
【0110】
なお、グラフィックス輝度情報は、字幕輝度情報と、メニュー輝度情報とを含んでもよい。また、字幕又はメニューを複数の言語又は複数のバージョンから選択可能な場合、グラフィックス輝度情報は、複数の言語又はバージョンに対応する複数の字幕輝度情報又は複数のメニュー輝度情報を含んでもよい。この場合、複数の字幕輝度情報又は複数のメニュー輝度情報はプレイリストに記録されてもよい。
【0111】
さらに、グラフィックス輝度情報は、そのプレイリストの再生中の最大輝度だけでなく、シーン毎あるいは単位時間毎の最大輝度を再生時刻情報とともに示してもよい。
【0112】
なお、このプレイリストに格納するグラフィックス輝度情報は図15に記載のMaxSLLであってもよい。このMaxSLLは主映像に重畳されるグラフィックスの最大輝度、及び、主映像のダイナミックトーンマッピングの最小輝度の少なくとも一方である。
【0113】
なお、Blu−ray、Ultra HD Blu−rayの詳細は、例えば、非特許文献1に記載されている。
【0114】
以上のように、本実施の形態では、トーンマップ処理部123Aは、グラフィックスの輝度に応じて境界輝度を設定する。これにより、グラフィックスの種別等に応じて、適切な境界輝度を設定できるので、ダイナミックトーンマップを適用できる輝度範囲を広くできる。
【0115】
[4.実施の形態3]
本実施の形態に係る映像表示装置102は、実施の形態1の映像表示装置102に加え、主映像に重畳されているグラフィックスの位置を、フレーム間相関などを用いて検出する。映像表示装置102は、グラフィックスが重畳されているピクセルに対しては、ダイナミックトーンマップを行わず、時間変動がないトーンマップを適用する。これにより、ダイナミックトーンマップのグラフィックスへの影響を低減できる。
【0116】
以下、本実施の形態に係る映像表示システム100の構成を説明する。映像再生装置101の構成は、実施の形態1と同様である。なお、映像再生装置101は、グラフィックス重畳フラグを映像表示装置102へ送る機能を持たなくてもよい場合もある。
【0117】
映像表示装置102が備えるトーンマップ処理部123Bの構成が実施の形態1と異なる。図16は、本実施の形態に係るトーンマップ処理部123Bの構成を示すブロック図である。図16に示すトーンマップ処理部123Bは、図10に示すトーンマップ処理部123Aの構成に加え、グラフィックス検出部135を備える。
【0118】
グラフィックス検出部135には、映像信号が入力される。グラフィックス検出部135は、フレーム間相関などを用いて、グラフィックスが重畳されている画素位置を検出する。そして、グラフィックス検出部135は、グラフィックスが重畳されているかどうかを示す画素単位の情報を、係数合成部134へ出力する。
【0119】
グラフィックス重畳フラグがONの場合、係数合成部134は、グラフィックスが重畳されていない画素に対しては、主映像ダイナミックメタデータに基づくトーンマップ係数をトーンマップ部133に出力し、グラフィックスが重畳されている画素に対しては、時間変化しないトーンマップ係数をトーンマップ部133に出力する。
【0120】
また、グラフィックス重畳フラグが映像再生装置101から送られてこない場合、係数合成部134は、グラフィックス検出部135で検出された画素単位のグラフィックスが重畳されているかどうかの情報を用いて、トーンマップ係数の合成を行う。つまり、係数合成部134は、グラフィックス検出部135の出力信号に基づき、グラフィックス重畳フラグを作成してもよい。
【0121】
例えば、グラフィックス検出部135が、処理対象のフレーム又はフレーム群において、1画素又は予め定められた画素数の画素にグラフィックスが存在すると検出した場合、係数合成部134は、グラフィックスが重畳されているものとして、グラフィックス重畳フラグをONとして、処理を行う。
【0122】
この場合、トーンマップ部133は、グラフィックス検出部135の処理時間による時間遅れを考慮した処理を行う。例えば、この時間遅れが予めトーンマップ部133に設定される。
【0123】
また、トーンマップ部133は、グラフィックスとして検出された画素数が予め定められた閾値を超えた場合にグラフィックスが存在すると判定してもよい。これにより、グラフィックスの誤検出を抑制できる。なお、上記閾値は、使用者が変更可能であってもよい。
【0124】
以上のように、トーンマップ処理部123Bは、映像内のグラフィックスが重畳されているグラフィックス領域を検出し、グラフィックス領域に対して、第2トーンマップ処理を行い、映像内のグラフィックス領域以外の領域に対して、第1トーンマップ処理を行う。これにより、グラフィックスに対してはトーンマップを固定できるとともに、グラフィックス以外の領域に対しては、ダイナミックトーンマップを行うことができる。
【0125】
[5.実施の形態4]
実施の形態1とは異なり、本実施の形態では、映像再生装置101Aはグラフィックス重畳フラグを生成せず、映像表示装置102は、グラフィックス重畳フラグに基づきダイナミックトーンマップを変更する機能を有さない。その代わりに、映像再生装置101Aは、グラフィックスの輝度を変換する処理を行う。
【0126】
具体的には、映像再生装置101Aに接続されている映像表示装置102の最大輝度情報が映像再生装置101Aに設定される。映像再生装置101Aは、その最大輝度情報に応じて、映像表示装置102で行うトーンマップの影響を最小化するよう重畳するグラフィックスの輝度を変更する。これにより、重畳されたグラフィックスへのダイナミックトーンマップの影響を低減できる。
【0127】
映像再生装置101Aは、映像表示装置102の最大輝度情報を、操作者による設定により取得してもよいし、映像再生装置101Aが接続しているHDMI上のEDIDにより映像表示装置102から取得してもよい。映像表示装置102によるトーンマップの方法は様々であるので、映像再生装置101Aは、グラフィックスの輝度を、ある範囲内で調整する。映像再生装置101Aは、この調整を、操作者による操作に基づき行ってもよいし、映像表示装置102毎のデータベースから取得した情報に基づき行ってもよい。
【0128】
以下、本実施の形態に係る映像再生装置101Aの構成を説明する。図17は、本実施の形態に係る映像再生装置101Aの構成を示すブロック図である。図17に示す映像再生装置101Aは、実施の形態1に係る映像再生装置101の構成に加え、最大輝度設定部141と、輝度変換部142とを備える。
【0129】
最大輝度設定部141は、映像表示装置102の最大輝度情報を取得し、保持する。例えば、この最大輝度情報は、使用者による操作に基づき設定されてもよいし、映像再生装置101Aに接続されている映像表示装置102の属性情報として映像信号伝達装置を介して取得されてもよい。例えば、最大輝度設定部141は、映像表示装置102の最大輝度情報を、HDMIのEDIDとして取得してもよい。または、最大輝度設定部141は、映像表示装置102の属性情報をネットワーク上のサーバのデータベースから取得してもよい。
【0130】
グラフィックス合成部117で生成されたグラフィックス情報は、輝度変換部142に入力される。輝度変換部142は、最大輝度設定部141に保持されている映像表示装置102の最大輝度情報に基づき、グラフィックス情報の輝度を変換し、変換後のグラフィックス情報を主映像合成部118に送る。主映像合成部118は、主映像に変換後のグラフィックス情報を重畳する。
【0131】
例えば、映像表示装置102の最大輝度が500nitであり、グラフィックス情報の最大輝度が300nitである場合、輝度変換部142は、グラフィックス情報の最大輝度を、映像表示装置102の最大輝度の50%である250nitに変換する。これにより、映像表示装置102におけるトーンマップの影響を低減できる。
【0132】
なお、変換の条件、及び割合(上記50%)は、上記に限定されない。また、これらは、使用者により変更されてもよいし、接続される映像表示装置102の特性に合わせて変更されてもよい。
【0133】
以上のように、本実施の形態に係る映像表示システム100は、表示部124と、表示部124の最大輝度に応じて、第1映像の輝度を変換することで第2映像を生成する輝度変換部142と、第2映像の最大輝度に応じた変換カーブを用いて当該第2映像の輝度を変換することで第3映像を生成するトーンマップ処理を行うトーンマップ処理部123とを備え、表示部124は、第3映像を表示する。これによれば、トーンマップの変動による輝度の変動を抑制できる。
【0134】
具体的には、輝度変換部142は、表示部124の最大輝度に応じて、前記第1映像に含まれるグラフィックスの輝度を変換することで前記第2映像を生成する。これによれば、グラフィックスの輝度の変動を抑制できる。
【0135】
[6.実施の形態5]
実施の形態4とは異なり、本実施の形態では、映像再生装置101Bは、映像表示装置102におけるダイナミックトーンマップの方法を仮定し、グラフィックスを重畳する前に、重畳するグラフィックスに映像表示装置102におけるダイナミックトーンマップの逆変換を施す。これにより、重畳したグラフィックスが、ダイナミックトーンマップを施した後に、もとの輝度及び色で表示されるようにできる。
【0136】
例えば、映像再生装置101Bは、接続されている映像表示装置102のダイナミックトーンマップの方法を以下の手段により仮定する。簡易的には、映像再生装置101Bは、影響を受けない最大輝度として、映像表示装置102の最大輝度の例えば90%に達する映像の輝度などの情報により対応する。より細かくは、映像再生装置101Bは、データベースより映像表示装置102のダイナミックトーンマップ方法を取得する。または、映像再生装置101Bは、テストパターンを用いて測定を行い、測定結果に基づきダイナミックトーンマップの方法を推定する。
【0137】
以下、本実施の形態に係る映像再生装置101Aの構成を説明する。図18は、本実施の形態に係る映像再生装置101Bの構成を示すブロック図である。
【0138】
図18に示す映像再生装置101Bは、図17に示す実施の形態4に係る映像再生装置101Aに対して、最大輝度設定部141の代わりにトーンマップ情報保持部143を備える。また、メタデータ取得部116から出力される主映像ダイナミックメタデータが、輝度変換部142に送られる。
【0139】
トーンマップ情報保持部143は、映像表示装置102のトーンマップ処理に関わるトーンマップ情報を保持する。輝度変換部142は、このトーンマップ情報と主映像ダイナミックメタデータとを用いて、グラフィックス情報に対して、映像表示装置102で行われるトーンマップの逆変換を施し、逆変換されたグラフィックス情報を主映像合成部118に出力する。主映像合成部118は、主映像に、トーンマップの逆変換が施されたグラフィックスを重畳する。
【0140】
これにより、映像信号を受けた映像表示装置102においてトーンマップが行われた場合に、トーンマップの逆変換を受けたグラフィックス部分は、元のグラフィックスとして表示される。よって、映像表示装置102のトーンマップの影響を低減できる。
【0141】
図19は、映像表示装置102で用いられるトーンマップの一例を示す図である。図20は、この場合のトーンマップ情報の一例を示す図である。例えば、トーンマップ情報は、映像表示装置102の輝度情報と、映像表示装置102のトーンマップ情報とを含む。映像表示装置102の輝度情報は、映像表示装置102の最大輝度と、全画素に対して同時に表示可能な最大輝度である全画面表示最大輝度とを示す。また、映像表示装置102のトーンマップ情報は、トーンマップにおける変極点を示し、例えば、変極点の輝度又は変極点間の傾きの増分が示される。
【0142】
なお、トーンマップ情報の構成は上記に限定されない。例えば、トーンマップ情報は、図20に示す情報のうち一部の情報のみを含んでもよい。
【0143】
また、映像表示装置102のトーンマップの逆変換の条件、又は割合(例えば上記90%)は、使用者により変更されてもよいし、接続する映像表示装置102毎に変更されてもよい。
【0144】
また、映像再生装置101Bは、映像表示装置102のトーンマップ情報を、利用者による設定により取得してもよいし、映像再生装置101Bに接続されている映像表示装置102の属性として映像信号伝達装置を介して取得してもよい。例えば、映像再生装置101Bは、トーンマップ情報を、HDMIのEDIDとして取得してもよい。または、映像再生装置101Bは、接続されている映像表示装置102の属性情報をネットワーク上のサーバのデータベースから取得してもよい。
【0145】
以上のように、本実施の形態に係る映像表示システム100は、第1映像の輝度を変換することで第2映像を生成する輝度変換部142と、第2映像の最大輝度に応じた変換カーブを用いて当該第2映像の輝度を変換することで第3映像を生成するトーンマップ処理を行うトーンマップ処理部123と、第3映像を表示する表示部124とを備える。輝度変換部142は、トーンマップ処理部123によるトーンマップ処理に応じて、第1映像の輝度を変換する。これによれば、トーンマップの変動による輝度の変動を抑制できる。
【0146】
具体的には、輝度変換部142は、第1映像の最大輝度と、トーンマップ処理部123によるトーンマップ処理で用いられる変換カーブとに基づき、第1映像の輝度を変換する。
【0147】
[7.変形例]
取得部111が取得するHDR映像は、例えばBlu−rayディスク、DVD、Internetの動画配信サイト、放送、又はHDD(Hard Disk Drive)内の映像であってもよい。
【0148】
上記映像再生装置は、ディスクプレイヤー、ディスクレコーダ、セットトップボックス、テレビ、パーソナルコンピュータ、又はスマートフォンなど、記録媒体、放送又はインターネットからの圧縮された映像信号を復号し、映像表示装置に送る装置でもよい。また、映像再生装置の機能の一部又は全てが、映像表示装置102に含まれてもよい。例えば、映像再生装置に含まれる処理部のうち、取得部111以外の処理部が映像表示装置102に含まれてもよい。また、映像表示装置102に含まれる映像受信部121、メタデータ取得部122及びトーンマップ処理部123が映像再生装置に含まれてもよい。また、トーンマップ処理部123に含まれる処理部のうちトーンマップ部133以外の処理部が映像再生装置に含まれてもよい。
【0149】
映像再生装置からの映像信号を映像表示装置に伝送する映像信号伝送手段は、HDMI、DVI、又はDPなどの映像信号を非圧縮の状態で伝送する手段であってもよいし、ネットワークを通じた伝送のように映像信号を圧縮した形式で伝送する手段であってもよい。
【0150】
映像表示装置の最大輝度情報又はトーンマップ情報の映像再生装置への設定は、利用者が映像再生装置にリモートコントローラなどを用いて入力することで行われてもよいし、利用者が映像再生装置が備える操作装置を用いて入力することで行われてもよい。または、利用者は、インターネット又はその他の手段を用いて、これらの情報を取得し、取得した情報をポータブル記憶媒体に保存し、ポータブル記憶媒体を介して、これらの情報を映像再生装置に送ってもよい。また、映像再生装置が直接、インターネットに接続され、映像再生装置は、サーバのデータベースから、これらの情報を取得してもよい。さらに、映像再生装置は、映像表示装置にテストパターンを表示し、表示されたテストパターンを用いて映像表示装置の特性を確認しながら、これらの情報を取得及び記憶してもよい。
【0151】
映像表示装置のトーンマップ情報は、実施の形態5では、変極点が2箇所の場合を例示したが、3箇所以上の変極点で定義されてもよいし、曲線により定義されてもよい。
【0152】
映像再生装置は、グラフィックス(字幕又はメニュー)の輝度をそのデータから検出することでグラフィックス輝度情報(字幕輝度情報及びメニュー輝度情報を含む)を生成してもよいし、映像データ作成時に予め作成されたグラフィックスの輝度を取得してもよい。例えば、グラフィックスの輝度は、ディスクに記録されていてもよいし、メタデータとして放送又はInternetで送付されてもよい。映像再生装置は、グラフィックスの輝度を読み取り、ダイナミックメタデータの一部として映像表示装置に送る。あるいは、Internetに接続されたサーバのデータベースに、再生するコンテンツに対する情報として、グラフィックス(字幕又はメニュー)の輝度情報が記録されており、映像再生装置は、当該データベースからグラフィックスの輝度情報を取得し、取得した輝度情報を映像表示装置に送ってもよい。
【0153】
以上、本開示の実施の形態に係る映像表示システムについて説明したが、本開示は、この実施の形態に限定されるものではない。
【0154】
また、上記実施の形態に係る映像表示システムに含まれる各処理部は典型的には集積回路であるLSIとして実現される。これらは個別に1チップ化されてもよいし、一部又は全てを含むように1チップ化されてもよい。
【0155】
また、集積回路化はLSIに限るものではなく、専用回路又は汎用プロセッサで実現してもよい。LSI製造後にプログラムすることが可能なFPGA(Field Programmable Gate Array)、又はLSI内部の回路セルの接続や設定を再構成可能なリコンフィギュラブル・プロセッサを利用してもよい。
【0156】
また、上記各実施の形態において、各構成要素は、専用のハードウェアで構成されるか、各構成要素に適したソフトウェアプログラムを実行することによって実現されてもよい。各構成要素は、CPUまたはプロセッサなどのプログラム実行部が、ハードディスクまたは半導体メモリなどの記録媒体に記録されたソフトウェアプログラムを読み出して実行することによって実現されてもよい。
【0157】
また、本開示は、映像表示システムにより実行される各種方法として実現されてもよい。
【0158】
また、ブロック図における機能ブロックの分割は一例であり、複数の機能ブロックを一つの機能ブロックとして実現したり、一つの機能ブロックを複数に分割したり、一部の機能を他の機能ブロックに移してもよい。また、類似する機能を有する複数の機能ブロックの機能を単一のハードウェア又はソフトウェアが並列又は時分割に処理してもよい。
【0159】
また、フローチャートにおける各ステップが実行される順序は、本開示を具体的に説明するために例示するためのものであり、上記以外の順序であってもよい。また、上記ステップの一部が、他のステップと同時(並列)に実行されてもよい。
【0160】
以上、一つまたは複数の態様に係る映像表示システムについて、実施の形態に基づいて説明したが、本開示は、この実施の形態に限定されるものではない。本開示の趣旨を逸脱しない限り、当業者が思いつく各種変形を本実施の形態に施したものや、異なる実施の形態における構成要素を組み合わせて構築される形態も、一つまたは複数の態様の範囲内に含まれてもよい。
【産業上の利用可能性】
【0161】
本開示は、映像表示システム、映像再生装置又は映像表示装置に適用できる。
【符号の説明】
【0162】
100 映像表示システム
101、101A、101B 映像再生装置
102 映像表示装置
111 取得部
112 デマルチプレクサ
113 主映像デコード部
114 字幕デコード部
115 メニューデコード部
116、122 メタデータ取得部
117 グラフィックス合成部
118 主映像合成部
119 映像送出部
121 映像受信部
123、123A、123B トーンマップ処理部
124 表示部
131 係数演算部
132 係数保持部
133 トーンマップ部
134 係数合成部
135 グラフィックス検出部
141 最大輝度設定部
142 輝度変換部
143 トーンマップ情報保持部
【図1】
【図2】
【図3A】
【図3B】
【図4A】
【図4B】
【図5】
【図6】
【図7】
【図8A】
【図8B】
【図9】
【図10】
【図11A】
【図11B】
【図12A】
【図12B】
【図13A】
【図13B】
【図14A】
【図14B】
【図15】
【図16】
【図17】
【図18】
【図19】
【図20】

【手続補正書】
【提出日】20181011
【手続補正1】
【補正対象書類名】明細書
【補正対象項目名】全文
【補正方法】変更
【補正の内容】
【発明の詳細な説明】
【技術分野】
【0001】
本開示は、映像を表示する映像表示装置及び映像表示方法に関する。
【背景技術】
【0002】
特許文献1には、HDR(High Dynamic Range)映像において、画像上にグラフィックスをマップするための方法及びシステムについて記載されている。
【先行技術文献】
【特許文献】
【0003】
【特許文献1】特許第6104411号明細書
【非特許文献】
【0004】
【非特許文献1】White Paper Blu-ray Disc Read-Only Format (Ultra HD Blu-ray), Audio Visual Application Format Specifications for BD-ROM Version 3.1, August 2016, http://www.blu-raydisc.com/Assets/Downloadablefile/BD-ROM_Part3_V3.1_WhitePaper_160729_clean.pdf
【発明の概要】
【発明が解決しようとする課題】
【0005】
本開示は、表示する映像の質を向上できる映像表示装置又は映像表示方法を提供する。
【課題を解決するための手段】
【0006】
本開示の一態様に係る映像表示装置は、映像の最大輝度に応じた変換カーブを用いて前記映像の輝度を変換するトーンマップ処理を行うトーンマップ処理部と、前記トーンマップ処理後の映像を表示する表示部とを備え、前記トーンマップ処理部は、前記映像における最大輝度の時系列の変化に応じて、前記変換カーブを時系列に変更する第1トーンマップ処理を行うか、前記映像における最大輝度の時系列の変化に依らず、一定の変換カーブを用いる第2トーンマップ処理を行うか、を切り替える。
【発明の効果】
【0007】
本開示は、表示する映像の質を向上できる映像表示装置又は映像表示方法を提供できる。
【図面の簡単な説明】
【0008】
【図1】図1は、映像技術の進化について説明するための図である。
【図2】図2は、コンテンツに新たな映像表現を導入するときの、映像制作、配信方式、及び表示装置の関係について説明するための図である。
【図3A】図3Aは、トーンマップの一例を示す図である。
【図3B】図3Bは、トーンマップの一例を示す図である。
【図4A】図4Aは、スタティックトーンマップの一例を示す図である。
【図4B】図4Bは、ダイナミックトーンマップの一例を示す図である。
【図5】図5は、動画にグラフィックスを重畳して表示する例を示す図である。
【図6】図6は、主映像にグラフィックスが重畳されたときのダイナミックトーンマップの影響を示す図である。
【図7】図7は、実施の形態1に係る映像表示システムのブロック図である。
【図8A】図8Aは、実施の形態1に係る主映像ダイナミックメタデータ及びグラフィックス重畳フラグの一例を示す図である。
【図8B】図8Bは、実施の形態1に係る主映像ダイナミックメタデータ及びグラフィックス重畳フラグの一例を示す図である。
【図9】図9は、実施の形態1に係るトーンマップ処理部のブロック図である。
【図10】図10は、実施の形態1に係るトーンマップ処理部の変形例のブロック図である。
【図11A】図11Aは、実施の形態1に係る映像再生装置の処理を示すフローチャートである。
【図11B】図11Bは、実施の形態1に係る映像表示装置の処理を示すフローチャートである。
【図12A】図12Aは、実施の形態2に係る主映像ダイナミックメタデータ、グラフィックス重畳フラグ及びグラフィックス輝度情報の一例を示す図である。
【図12B】図12Bは、実施の形態2に係る主映像ダイナミックメタデータ、グラフィックス重畳フラグ及びグラフィックス輝度情報の一例を示す図である。
【図13A】図13Aは、実施の形態2に係る主映像ダイナミックメタデータ、グラフィックス重畳フラグ及びグラフィックス輝度情報の一例を示す図である。
【図13B】図13Bは、実施の形態2に係る主映像ダイナミックメタデータ、グラフィックス重畳フラグ及びグラフィックス輝度情報の一例を示す図である。
【図14A】図14Aは、従来のトーンマップによる輝度の変化を示す図である。
【図14B】図14Bは、実施の形態1に係るトーンマップによる輝度の変化を示す図である。
【図15】図15は、実施の形態2に係るトーンマップによる輝度の変化を示す図である。
【図16】図16は、実施の形態3に係るトーンマップ処理部のブロック図である。
【図17】図17は、実施の形態4に係る映像再生装置のブロック図である。
【図18】図18は、実施の形態5に係る映像再生装置のブロック図である。
【図19】図19は、実施の形態5に係るトーンマップの一例を示す図である。
【図20】図20は、実施の形態5に係るトーンマップ情報の一例を示す図である。
【発明を実施するための形態】
【0009】
[1−1.背景]
まず、映像技術の変遷について、図1を用いて説明する。図1は、映像技術の進化について説明するための図である。
【0010】
これまで、映像の高画質化としては、表示画素数の拡大に主眼がおかれ、Standard Definition(SD)の720×480画素から、High Definition(HD)の1920×1080画素の映像が普及している。
【0011】
近年、更なる高画質化を目指して、Ultra High Definition(UHD)の3840×1920画素、あるいは、4Kの4096×2048画素の、所謂4K映像の導入が開始された。
【0012】
4Kの導入と共に、ダイナミックレンジ拡張、色域拡大、又は、フレームレートの追加或いは向上なども検討されている。
【0013】
その中でも、ダイナミックレンジについては、暗部階調を維持しつつ、現行のテレビ信号で表現不能な鏡面反射光などの明るい光を、より現実に近い明るさで表現するための方式として、HDR(High Dynamic Range)が注目されている。具体的には、これまでのテレビ信号は、SDR(Standard Dynamic Range)と呼ばれ、最高輝度が100nitであった。これに対して、HDRでは1000nit以上まで最高輝度を拡大することが想定されている。HDRは、SMPTE(Society of Motion Picture & Television Engineers)、及びITU−R(International Telecommunications Union Radiocommunications Sector)などにおいて、マスタリングディスプレー用規格の標準化が進行中である。
【0014】
HDRの具体的な適用先としては、HD及びUHDと同様に、放送、パッケージメディア(Blu−ray(登録商標) Disc等)、及びインターネット配信などが想定されている。
【0015】
[1−2.マスター生成、配信方式、及び表示装置の関係]
図2は、コンテンツに新たな映像表現を導入するときの、映像制作、配信方式、及び表示装置の関係について説明するための図である。
【0016】
映像の高画質化のために新たな映像表現(画素数の増加等)を導入する場合には、図2に示すように、(1)映像制作側のHome Entertainment向けマスターを変更する必要がある。それに応じて、(2)放送、通信、及びパッケージメディア等の配信方式も、(3)その映像を表示するテレビ、又はプロジェクター等の表示装置も更新する必要がある。
【0017】
[1−3.トーンマップ]
トーンマップ(Tone Mapping)は、HDR映像の輝度と映像表示装置の最大輝度(Display Peak Luminance:DPL)との関係から、映像の最大輝度(Maximum Content Luminance Level:MaxCLL)がDPLを超える場合に、映像の輝度を変換し、映像の輝度をDPL以内に収める処理である。この処理により、映像の最大輝度付近の情報を失うことなく映像を表示できる。この変換は、映像表示装置の特性にも依存し、どのように表示するかの考え方にも依存するので、映像表示装置毎に異なった変換カーブが用いられる。
【0018】
図3A及び図3Bは、トーンマップの一例を示す図である。図3Aは、DPLが500nitの場合を示し、図3Bは、DPLが1000nitの場合を示す。また、図3A及び図3Bは、MaxCLLが1000nitの映像を表示した場合のトーンマップと、MaxCLLが4000nitの映像を表示した場合のトーンマップとの例である。
【0019】
図3Aに示すように、DPLが500nitの場合、どちらの映像も500nit以下でMaxCLLまでを表示できるように、輝度が変換されるが、MaxCLLが高い映像のほうが変換の度合いは大きくなる。
【0020】
図3Bに示すように、DPLが1000nitの場合、MaxCLLが1000nitの映像では、トーンマップが行われない。MaxCLLが4000nitの映像では、トーンマップが行われ、4000nitの輝度が1000nitに変換されて表示される。
【0021】
[1−4.ダイナミックメタデータとダイナミックトーンマップ]
図4Aは、スタティックメタデータを用いたトーンマップの例を示す図である。図4Bは、ダイナミックメタデータを用いたダイナミックトーンマップの例を示す図である。
【0022】
図4Aに示すように、スタティックメタデータ(MaxCLL)が用いられる場合、MaxCLLは一連の映像内で最も高い輝度を示すため、映像表示装置は、一連の映像に対して、固定的なトーンマップしか行えない。これに対して、映像表示装置は、図4Bの(a)に示すように、時間変化する輝度に合わせたメタデータ(ここではDynamic MaxCLLと称す)を用いることで、輝度が低い場合は、トーンマップを行わず(図4Bの(b))、輝度が高い場合はトーンマップを行う(図4Bの(c))というように、時間変化する輝度に合わせた最適なトーンマップを実現できる。
【0023】
[1−5.映像とグラフィックスとの合成]
図5は、動画にメニュー及び字幕などのグラフィックスを重畳して、映像表示装置で表示する例を示す図である。ここでは、Ultra HD Blu−rayの例を示す。
【0024】
グラフィックスを重畳する前の動画を主映像と表現する。Ultra HD Blu−rayではグラフィックスは、HD解像度で準備される。映像再生装置は、HDのグラフィックスに対してHD−UHD変換を行うことでUHDのグラフィックスを生成する。そして、映像再生装置は、得られたUHDのグラフィックスと、UHD解像度の主映像とを合成する。そして、映像再生装置は、合成後の映像を、HDMI(登録商標)(High−Definition Multimedia Interface)を通じて映像表示装置に送る。映像表示装置は、送られてきた映像をHDRとして表示する。
【0025】
また、映像再生装置は、ダイナミックメタデータを、主映像の輝度の時間変化に基づいて決定し、HDMIを通じて、映像表示装置に送る。映像表示装置は、送られてきたダイナミックメタデータに基づき、主映像に字幕及びメニューが重畳された映像信号に対して、ダイナミックトーンマップを施す。
【0026】
この状況は、放送又は通信によるOTT(Over The Top)サービスでのHDR映像を表示する場合でも、主映像にメニュー又は字幕が重畳され、得られた映像が映像表示装置で表示される場合は同様である。
【0027】
[1−6.動画にグラフィックスを重畳した映像データにダイナミックトーンマップを行う場合の課題]
ダイナミックメタデータ方式では、HDR映像の輝度分布などの輝度に関わるメタデータがフレーム毎に指定され、映像信号とともに、そのようなメタデータが、映像表示装置に送られる。映像表示装置は、当該映像表示装置の最大輝度などの表示能力に応じて、送られてきたメタデータを参考にして、輝度を変換するなどの処理を行う。このようなダイナミックメタデータ方式は、映像表示装置の輝度などの表示性能によらずできるだけ一定の品質の映像を表示する方式として、注目されている。
【0028】
しかしながら、ダイナミックメタデータは、時間的に変化するために、本来一定であるべき映像の表示が、安定しないという問題がある。
【0029】
表示すべき映像が、同時に編集、又は監修された映像、いわゆる動画だけであるならば、ある程度、映像の状況を考慮した処理が可能である。このような動画を主映像とし、同時に、本来一定であり、まったく変動しない、字幕又はメニューなどのグラフィックスデータが主映像に重畳されて表示されると、ダイナミックメタデータを使用した処理により、一定であるべきグラフィックスの輝度又は色が変化するという悪影響が出てくる。この悪影響は、主映像の輝度が高く、映像表示装置の輝度が低いほど顕著となる。
【0030】
図6は、主映像にグラフィックスが重畳されたときのダイナミックトーンマップの影響を示す図である。ここで、図6の(a)に示すように、重畳されるグラフィックスの輝度を350nit仮定する。図6の(b)に示すように主映像の輝度が低い区間では、トーンマップが行われず、グラフィックスは本来の輝度である350nitで映像表示装置に表示される。一方、図6の(c)に示すように、主映像の輝度が高い区間では、トーンマップが行われ、グラフィックスの輝度は、350nitより低い輝度で映像表示装置に表示される。このように、本来一定であるべきグラフィックスの輝度が時間的に変動することになり、好ましくない状態となる。ここでは輝度だけの影響としたが、実際の映像表示装置では、色成分も影響を受けるために色も影響を受けることもある。
【0031】
[1−7.解決方法]
上記課題を避ける手段として、重畳するグラフィックスの位置情報を映像表示装置に送り、グラフィックスが表示されている部分のみ、ダイナミックメタデータを適用しない方法が考えられる。しかし、この方法は、表示画面の全領域において、グラフィックスが表示されているかどうかの情報の伝送が必要であり、映像表示装置での処理も、表示ピクセル単位での判断が必要など、実現はかなり困難である。
【0032】
本開示では以下の解決方法を用いる。第1の方法では、映像再生装置は、ダイナミックメタデータの情報として、主映像にグラフィックスが重畳されているかいないかを示す「グラフィックス重畳フラグ」を映像表示装置に送る。グラフィックスとしては、メニュー及び字幕があるため、映像再生装置は、「グラフィックス重畳フラグ」として、「メニュー重畳フラグ」及び「字幕重畳フラグ」を映像表示装置に送ってもよい。
【0033】
映像表示装置は、メニュー重畳フラグの状態により、ダイナミックトーンマップのOn/Off又はその強さを変化させる。これにより、重畳されたグラフィックスへのダイナミックトーンマップの影響を低減できる。
【0034】
第2の方法では、映像再生装置は、第1の方法に加え、重畳するグラフィックスの最大輝度の情報をダイナミックメタデータの情報として、映像表示装置に送る。重畳フラグと同様に、字幕とメニューで、最大輝度情報を個別に設けてもよい。
【0035】
映像表示装置は、グラフィックス重畳フラグとグラフィックスの最大輝度の情報に応じて、より細かく、ダイナミックトーンマップを制御することができる。
【0036】
第3の方法では、映像表示装置は、フレーム間相関などを用い、一定に表示されるグラフィックスを検出し、その部分に対しては、ダイナミックトーンマップを抑制する。
【0037】
第4の方法では、Ultra HD Blu−ray再生装置、放送受信装置又はインターネット放送受信装置などのHDR映像再生装置は、接続されている映像表示装置の最大輝度情報に応じて、映像表示装置で行うトーンマップの影響を低減するように重畳するグラフィックスの輝度を変更する。また、映像再生装置は、映像表示装置の最大輝度を、操作者による設定により取得してもよいし、映像再生装置が接続しているHDMI上のEDIDにより映像表示装置から取得してもよい。
【0038】
映像表示装置によるトーンマップの方法は様々であるので、グラフィックスの輝度の調整は、ある幅で調整可能とする。その調整の方法としては、操作者が設定する方法、又は映像表示装置毎のデータベースより取得した情報に基づき調整を行う方法などがある。
【0039】
第5の方法では、HDR映像再生装置は、グラフィックスを重畳したHDR映像を表示する映像表示装置のダイナミックトーンマップの方法を仮定し、グラフィックスを重畳する前に、重畳するグラフィックスに映像表示装置におけるダイナミックトーンマップの逆変換を施す。これにより、重畳したグラフィックスが、ダイナミックトーンマップを施した後に、元の輝度及び色で表示されるようにできる。
【0040】
接続される映像表示装置のダイナミックトーンマップ方法を仮定する方法としては以下の方法を用いることができる。映像再生装置は、簡易的に、影響を受けない最大輝度として、映像表示装置の最大輝度の、例えば90%に達する映像の輝度などの情報により対応する。より細かくは、映像再生装置は、これらの情報を、データベースより取得して対応してもよい。または、映像再生装置は、テストパターンにより測定を行い、測定結果に基づき設定を行ってもよい。
【0041】
以上の方法により、放送、Blu−ray等のパッケージメディア、又はOTT等のインターネット配信により送られてきたHDR映像信号に対して、ダイナミックトーンマップを行う場合において、メニュー又は字幕などのグラフィックスに対するダイナミックトーンマップの影響を低減できる。これにより、安定した字幕又はメニューの表示と、映像表示装置の最大輝度(DPL)及び動画の最大輝度に応じたダイナミックトーンマップの効果とを得ることができる。
【0042】
また、特に、映像の輝度に比較して低い輝度の映像表示装置におけるHDR効果大きくできる一方、スタティックトーンマップと同様な品位が高いメニュー及び字幕の表示を実現できる。
【0043】
また、字幕とメニューの処理をわけることで、字幕及びメニューのそれぞれに適した処理により、ダイナミックトーンマップの影響をより少なくすることができる。具体的には、字幕の輝度は、ほぼ一定の輝度であるのに対して、メニューの輝度は変化する。また、字幕を主映像再生時に表示する場合は、最初から最後まで字幕が表示されるとともに、主映像に同期している。一方で、メニューは操作する場合のみに表示されるとともに、主映像とは同期しない。このような、字幕とメニューとの性質の違いを考慮した処理を行うことができる。
【0044】
[2.実施の形態1]
本実施の形態では、映像再生装置は、グラフィックスを主映像に重畳しているかどうかを示すグラフィックス重畳フラグを、ダイナミックメタデータの一部に埋め込み映像表示装置に送る。映像表示装置は、グラフィックス重畳フラグの状態により、ダイナミックメタデータを用いたダイナミックトーンマップのOn/Off又はその強さを変化させる。これにより、重畳されたグラフィックスへのダイナミックトーンマップの影響を低減できる。グラフィックス重畳フラグは、字幕の表示の有り/無しを表す字幕重畳フラグと、メニュー表示の有り/無しを示すメニュー重畳フラグとの二つから構成されてもよい。
【0045】
[2−1.映像表示システムの構成]
図7は、本実施の形態に係る映像表示システム100の構成を示すブロック図である。図7に示す映像表示システム100は、映像再生装置101と、映像表示装置102とを含む。
【0046】
映像再生装置101は、映像を再生し、得られた映像を映像表示装置102に出力する。この映像再生装置101は、取得部111と、デマルチプレクサ112と、主映像デコード部113と、字幕デコード部114と、メニューデコード部115と、メタデータ取得部116と、グラフィックス合成部117と、主映像合成部118と、映像送出部119とを含む。
【0047】
取得部111は、映像信号を取得する。例えば、映像再生装置101がディスク再生装置である場合には、取得部111は、ディスクを再生することで映像信号を取得する。また、映像再生装置101が放送受信装置である場合は、取得部111は、放送波を受信することで映像信号を取得する。また、映像再生装置101がインターネット放送受信装置である場合は、取得部111は、インターネット放送を受信することで映像信号を取得する。
【0048】
デマルチプレクサ112は、映像信号に含まれる符号化された主映像信号、字幕信号及びメニュー信号をそれぞれ、主映像デコード部113、字幕デコード部114及びメニューデコード部115に出力する。
【0049】
主映像デコード部113は、デマルチプレクサ112から出力された符号化された主映像信号を復号する。
【0050】
字幕デコード部114は、デマルチプレクサ112から出力された符号化された字幕信号を復号する。また、字幕デコード部114は、ユーザの操作等に基づき、字幕を表示するか否か、及び表示する字幕の種別を選択し、字幕を表示する場合には、選択した字幕をグラフィックス合成部117に出力する。
【0051】
メニューデコード部115は、デマルチプレクサ112から出力された符号化されたメニュー信号を復号する。また、メニューデコード部115は、ユーザの操作等に基づき、メニューを表示するか否か、及び表示するメニューの種別を選択し、メニューを表示する場合には、選択したメニューをグラフィックス合成部117に出力する。なお、メニューデコード部115は、映像信号からの情報だけでなく、映像再生装置101で動作するプログラムによりメニューを合成及び表示してもよい。
【0052】
メタデータ取得部116は、主映像ダイナミックメタデータを取得する。例えば、メタデータ取得部116は、主映像信号に含まれる情報に基づき主映像ダイナミックデータを生成する。
【0053】
グラフィックス合成部117は、字幕とメニューとを構成することでグラフィックス情報を生成する。なお、上述したようにグラフィックス合成部117は、字幕及びメニューの解像度を変換してもよい。例えば、Ultra HD Blu−rayの場合には、グラフィックス合成部117は、HDの字幕及びメニューをUHDの字幕及びメニューに変換する。
【0054】
また、グラフィックス合成部117は、グラフィックス情報を生成し、生成したグラフィックス情報を主映像に重畳する場合、グラフィックス重畳フラグをONとして、映像送出部119に送る。また、グラフィックス合成部117は、グラフィックス情報を主映像に重畳しない場合、グラフィックス重畳フラグをOFFとして、映像送出部119に送る。なお、グラフィックス重畳フラグは、映像再生装置101内のプログラムにより生成されてもよいし、他の手段によって生成されてもよい。
【0055】
主映像合成部118は、主映像デコード部113で得られた主映像と、グラフィックス合成部117で生成されたグラフィックス情報とを合成することで映像信号を生成する。
【0056】
映像送出部119は、主映像合成部118で生成された映像信号と、ダイナミックメタデータとを、HDMIケーブル等の映像信号伝送手段を介して映像表示装置102に伝送する。ダイナミックメタデータは、メタデータ取得部116で取得された主映像ダイナミックメタデータと、グラフィックス合成部117で生成されたグラフィックス重畳フラグとを含む。
【0057】
図8Aは、映像再生装置101から映像表示装置102に送られる主映像ダイナミックメタデータ及びグラフィックス重畳フラグの構成例を示す図である。図8Aに示すように、主映像ダイナミックメタデータは、主映像の最大輝度及び平均輝度を示す。例えば、主映像ダイナミックメタデータは、1フレーム単位又は複数フレーム単位の最大輝度及び平均輝度を示す。
【0058】
図8Bは、主映像ダイナミックメタデータ及びグラフィックス重畳フラグの別の構成例を示す図である。図8Bに示すようにグラフィックス重畳フラグは、字幕を主映像に重畳しているかどうかを示す字幕重畳フラグと、メニューを主映像に重畳しているかどうかを示すメニュー重畳フラグとを含んでもよい。
【0059】
次に、映像表示装置102の構成について説明する。映像表示装置102は、映像受信部121と、メタデータ取得部122と、トーンマップ処理部123と、表示部124とを備える。
【0060】
映像受信部121は、映像再生装置101から送られてくる映像信号とダイナミックメタデータを受け取る。映像受信部121は、映像信号とダイナミックメタデータとを分離し、映像信号をトーンマップ処理部123へ送り、ダイナミックメタデータをメタデータ取得部122に送る。メタデータ取得部122は、ダイナミックメタデータに含まれる主映像ダイナミックメタデータ及びグラフィックス重畳フラグを制御信号として、トーンマップ処理部123へ送る。
【0061】
トーンマップ処理部123は、主映像ダイナミックメタデータに従い、映像信号のトーンマップ処理を行う。具体的には、トーンマップ処理部123は、グラフィックス重畳フラグがOFFの場合には、主映像ダイナミックメタデータに従い、映像信号のトーンマップ処理(ダイナミックトーンマップ処理)を行う。一方、トーンマップ処理部123は、グラフィックス重畳フラグがONの場合は、重畳されているグラフィックスへのダイナミックトーンマップの影響を低減したトーンマップ処理を行う。表示部124は、トーンマップ処理後の映像信号を表示する。
【0062】
[2−2.トーンマップ処理部]
トーンマップ処理部123の詳細について説明する。図9は、トーンマップ処理部123の構成を示すブロック図である。トーンマップ処理部123は、係数演算部131と、係数保持部132と、トーンマップ部133と、切替部SW1及びSW2とを備える。
【0063】
映像受信部121からの映像信号は、トーンマップ部133へ送られる。メタデータ取得部122からの主映像ダイナミックメタデータは、係数演算部131に送られる。
【0064】
係数演算部131は、トーンマップ部133におけるトーンマップ処理で用いられるトーンマップ係数を、映像表示装置102の輝度などの映像表示能力に従って算出する。係数保持部132は、係数演算部131が算出したトーンマップ係数を保持する。ここで、トーンマップ係数とは、トーンマップ処理に用いられる変換カーブを示す関数に含まれる係数である。つまり、トーンマップ係数により変換カーブが決定される。
【0065】
切替部SW1は、係数演算部131で算出されたトーンマップ係数(A)と、係数保持部132に保持されているトーンマップ係数(B)との一方を選択し、選択したトーンマップ係数をトーンマップ部133に送る。切替部SW2は、係数演算部131で算出されたトーンマップ係数(A)と、係数保持部132に保持されるトーンマップ係数(B)との一方を選択し、選択したトーンマップ係数を係数保持部132に入力する。つまり、切替部SW2は、係数保持部132に保持されるトーンマップ係数を、係数演算部131で新たに算出されたトーンマップ係数に更新するか(A)、現在保持しているトーンマップ係数を引き続き保持するか(B)を切り替える。
【0066】
切替部SW1及びSW2は、連動しており、グラフィックス重畳フラグがOFFの場合は、共にAに接続され、グラフィックス重畳フラグがONの場合は共にBに接続される。これにより、グラフィックスが重畳されている場合、ダイナミックメタデータに基づくダイナミックトーンマップが固定される。
【0067】
また、グラフィックス重畳フラグが、字幕重畳フラグとメニュー重畳フラグとを含む場合、その組み合わせにより、トーンマップ部133へ入力されるトーンマップ係数の処理を変えることができる。一例として、字幕重畳フラグがONの場合は、トーンマップ係数を固定とする(切替部SW1及びSW2はBに接続される)が、メニュー重畳フラグだけがONの場合は、通常のトーンマップ係数が用いられる(切替部SW1及びSW2はAに接続される)などである。
【0068】
また、本構成は、一例であり、トーンマップ処理部123は、グラフィックス重畳フラグがONの場合、トーンマップ係数を特定の輝度以下で固定してもよいし、トーンマップ処理を行わないとしてもよい。
【0069】
図10は、トーンマップ係数を特定の輝度以下で固定する場合のトーンマップ処理部123Aの構成を示す図である。トーンマップ処理部123Aは、切替部SW1の代わりに係数合成部134を備える。
【0070】
係数合成部134は、グラフィックス重畳フラグがONの場合、予め定められた輝度である境界輝度以上の輝度に対してはダイナミックトーンマップ処理を行うが、境界輝度未満の輝度に対しては(1)トーンマップを固定する、(2)トーンマップ処理を行わない、(3)トーンマップの変動を抑える、又は(4)トーンマップの影響が人に感知できない程度とするなどの処理を行う。ここで、境界輝度とは、例えば、グラフィックスに用いられている輝度の最大値より高い輝度である。これにより、グラフィックスに用いられる輝度範囲においてトーンマップが変動することが抑制される。また、上記処理において、境界輝度以上の変換カーブと、境界輝度未満の変換カーブとの連続性を維持するために、係数合成部134は、これらの境界領域において変換カーブが滑らかに変化するように変換カーブを補正してもよい。
【0071】
なお、ここでは、映像、字幕、及びメニューのみについての構成を説明したが、映像再生装置101、及び映像表示装置102では、音声信号なども処理、伝送、及び出力する。これらは、本開示には、かかわりがないために、以降の説明を含め省略している。
【0072】
また、グラフィックス重畳フラグが、字幕重畳フラグとメニュー重畳フラグとを含む場合、図10に示す係数合成部134は、字幕重畳フラグとメニュー重畳フラグの状態により、異なる合成の方法を用いる。例えば、係数合成部134は、字幕重畳フラグがONの場合と、メニュー合成フラグのみがONの場合とで、上記境界輝度を異なる値に設定する。
【0073】
係数合成部134は、表示部124の最高輝度、及びその他の映像に関わる特性を考慮して境界輝度を設定する。ここで、一般的にメニューの輝度レベルは字幕の輝度レベルより高い。よって、係数合成部134は、メニュー重畳フラグがONの場合には、字幕重畳フラグのみがONの場合に比べて、境界輝度を高く設定する。
【0074】
なお、メニューは、使用者の意思によって重畳するかどうかが決められるものであり、メニューへのダイナミックトーンマップの影響よりも、主映像のトーンマップを重視するという考え方もできる。よって、係数合成部134は、メニュー重畳フラグのみがONの場合には、字幕重畳フラグがONの場合に比べて、境界輝度を低く設定してもよい。
【0075】
[2−3.映像表示システムの動作]
映像表示システムの動作の流れを説明する。図11Aは、映像再生装置101の動作を示すフローチャートである。映像再生装置101は、映像の再生を開始した後、グラフィックス(字幕、及びメニュー)の処理状態によりグラフィックスが主映像に重畳されているかどうかを判定する(S101)。グラフィックスが主映像に重畳されている場合(S101でYes)、映像再生装置101は、グラフィックス重畳フラグをONに設定する(S102)。一方、グラフィックスが主映像に重畳されていない場合(S101でNo)、映像再生装置101は、グラフィックス重畳フラグをOFFに設定する(S103)。そして、映像再生装置101は、映像再生が完了するか、あるいは、再生停止操作があるまで、ステップS101〜S103の処理を繰り返し行う(S104)。例えば、この処理は、1フレーム単位又は複数フレーム単位で繰り返し行われる。
【0076】
図11Bは、映像表示装置102の動作を示すフローチャートである。映像表示装置102は、映像表示の開始と同時にトーンマップ処理を開始する。この時、映像表示装置102は、グラフィックス重畳フラグがONであるかOFFであるかを判定する(S111)。グラフィックス重畳フラグがOFFの場合(S111でNo)、映像表示装置102は、切替部SW1及びSW2をAに接続し、主映像ダイナミックメタデータに基づいたトーンマップ処理を行うことで、トーンマップを更新する(S112)。つまり、係数演算部131は、現在時刻の主映像ダイナミックメタデータに基づきトーンマップ係数を算出し、トーンマップ部133は、現在時刻の映像に対して、算出されたトーンマップ係数を用いてトーンマップ処理を行う。このとき、係数保持部132は、新たに算出されたトーンマップ係数を保持する。
【0077】
グラフィックス重畳フラグがONになると(S111でYes)、映像表示装置102は、切替部SW1及びSW2をBに接続することで、トーンマップを固定する(S113)。具体的には、係数保持部132の入力端子が、自身の出力端子に接続されることにより、係数保持部132は、切替部SW2がAからBになる直前のトーンマップ係数を保持する。また、切替部SW1がBに接続されることから、トーンマップ部133で用いられるトーンマップ係数が固定される。よって、トーンマップの時間変動がなくなる。
【0078】
また、グラフィックス重畳フラグがOFFになると(S111でNo)、トーンマップ係数の時間変動が開始される(S112)。これらのS111〜S113の処理が、映像の受信完了又は表示OFFの操作がなされるまで繰り返し行われる(S114)。例えば、この処理は、1フレーム単位又は複数フレーム単位で繰り返し行われる。
【0079】
以上のように、本実施の形態に係る映像表示システム100は、映像の最大輝度に応じた変換カーブを用いて映像の輝度を変換するトーンマップ処理を行うトーンマップ処理部123と、トーンマップ処理後の映像を表示する表示部124とを備える。トーンマップ処理部123は、映像における最大輝度の時系列の変化に応じて、変換カーブを時系列に変更する第1トーンマップ処理を行うか(S112)、映像における最大輝度の時系列の変化に依らず、一定の変換カーブを用いる第2トーンマップ処理を行うか(S113)、を切り替える。
【0080】
これにより、例えば、映像の種別等に応じて、トーンマップに用いる変換カーブを時系列に変更するか、固定するかを切り替えることができる。よって、映像の種別等に応じて、各時刻において最適なトーンマップを行うか、トーンマップを固定することで、本来一定であるべき映像の輝度が変化することを抑制するかを切り替えることができる。このように、映像表示システム100は、表示する映像の質を向上できる。
【0081】
また、映像表示システム100は、さらに、主映像にグラフィックスを合成することで映像を生成する合成部(主映像合成部118及びグラフィックス合成部117)を備える。トーンマップ処理部123は、主映像にグラフィックスが合成されていない場合(S111でNo)、第1トーンマップ処理を行い(S112)、主映像にグラフィックスが合成された場合(S111でYes)、第2トーンマップ処理を行う(S113)。これにより、グラフィックスの輝度の変化を抑制できる。
【0082】
また、合成部は、主映像にグラフィックスを合成したか否かを示す第1フラグ(グラフィックス重畳フラグ)を生成する。トーンマップ処理部123は、第1フラグに応じて、第1トーンマップ処理を行うか、第2トーンマップ処理を行うかを決定する。
【0083】
また、グラフィックスは、字幕及びメニューを含み、第1フラグは、主映像に字幕を合成したか否かを示す第2フラグ(字幕重畳フラグ)と、主映像にメニューを合成したか否かを示す第3フラグ(メニュー重畳フラグ)とを含む。これによれば、字幕が重畳されている場合とメニューが重畳されている場合とで、それぞれに適したトーンマップ処理を行うことができる。
【0084】
例えば、トーンマップ処理部123は、第1トーンマップ処理から第2トーンマップ処理に切り替わった場合、第2トーンマップ処理において、直前の変換カーブを継続して用いる。これによれば、第1トーンマップ処理から第2トーンマップ処理への切り替わりにおいて輝度が大きく変化することを抑制できる。
【0085】
例えば、図10に示すように、トーンマップ処理部123Aは、第2トーンマップ処理において、境界輝度以上の輝度に対しては、映像における最大輝度の時系列の変化に応じて、変換カーブを時系列に変更し、境界輝度未満の輝度に対しては、映像における最大輝度の時系列の変化に依らず、一定の変換カーブを用いる。
【0086】
これによれば、境界輝度以上の木地に対しては、各時刻において最適なトーンマップを行うことができるとともに、境界輝度未満の輝度に対しては、輝度が変化することを抑制できる。
【0087】
また、本実施の形態に係る映像表示装置102は、映像の最大輝度に応じた変換カーブを用いて映像の輝度を変換するトーンマップ処理を行うトーンマップ処理部123と、トーンマップ処理後の映像を表示する表示部124とを備える。トーンマップ処理部123は、映像における最大輝度の時系列の変化に応じて、変換カーブを時系列に変更する第1トーンマップ処理を行うか(S112)、映像における最大輝度の時系列の変化に依らず、一定の変換カーブを用いる第2トーンマップ処理を行うか(S113)、を切り替える。
【0088】
これにより、例えば、映像の種別等に応じて、トーンマップに用いる変換カーブを時系列に変更するか、固定するかを切り替えることができる。よって、映像の種別等に応じて、各時刻において最適なトーンマップを行うか、トーンマップを固定することで、本来一定であるべき映像の輝度が変化することを抑制するかを切り替えることができる。このように、映像表示装置102は、表示する映像の質を向上できる。
【0089】
また、トーンマップ処理部123は、映像にグラフィックスが含まれない場合(S111でNo)、第1トーンマップ処理を行い(S112)、映像にグラフィックスが含まれる場合(S111でYes)、第2トーンマップ処理を行う(S113)。これにより、グラフィックスの輝度の変化を抑制できる。
【0090】
また、トーンマップ処理部123は、第1トーンマップ処理を行うか第2トーンマップ処理を行うかを示す第1フラグ(グラフィックス重畳フラグ)に応じて、第1トーンマップ処理を行うか、第2トーンマップ処理を行うかを決定する。
【0091】
また、第1フラグは、映像に字幕が含まれるか否かを示す第2フラグ(字幕重畳フラグ)と、映像にメニューが含まれるか否かを示す第3フラグ(メニュー重畳フラグ)とを含む。これによれば、字幕が重畳されている場合とメニューが重畳されている場合とで、それぞれに適したトーンマップ処理を行うことができる。
【0092】
[3.実施の形態2]
本実施の形態では、実施の形態1の処理に加え、映像再生装置101は、主映像に重畳されるグラフィックスの輝度情報をダイナミックメタデータの一部に埋め込む。映像表示装置102は、メニュー重畳フラグの状態及びグラフィックスの輝度情報に基づき、ダイナミックトーンマップのOn/Off又はその強さを変化させる。これにより、重畳されたグラフィックスへのダイナミックトーンマップの影響を低減できる。
【0093】
[3−1.構成]
本実施の形態に係る映像再生装置101は、以下の点が実施の形態1と異なる。図7に示すグラフィックス合成部117は、グラフィックス情報を主映像に重畳する場合、グラフィックス重畳フラグをONにするとともに、グラフィックスの輝度情報であるグラフィックス輝度情報を抽出し、抽出したグラフィックス輝度情報を映像送出部119に送る。映像送出部119は、グラフィックス輝度情報をダイナミックメタデータの一部として、映像表示装置102に送出する。グラフィックス合成部117は、グラフィックス輝度情報として、予め設定された固定値を用いてもよいし、輝度情報をつどグラフィックス情報から抽出してもよいし、別の手段により提供されるメタデータを参照することでグラフィックス輝度情報を取得してもよい。
【0094】
また、グラフィックス輝度情報は、字幕の輝度情報とメニューの輝度情報とを含んでもよい。
【0095】
本実施の形態に係る映像表示装置102は、以下の点が実施の形態1と異なる。図7に示すメタデータ取得部122は、主映像ダイナミックメタデータ及びグラフィックス重畳フラグに加えグラフィックス輝度情報を取得し、これらの情報をトーンマップ処理部123に送る。トーンマップ処理部123の詳細構成は、例えば、図10に示す構成であり、係数合成部134を備える。係数合成部134には、グラフィックス重畳フラグに加え、グラフィックス輝度情報が入力され、係数合成部134は、グラフィックスの輝度情報を用いたトーンマップ係数の合成処理を行う。例えば、係数合成部134は、グラフィックス輝度情報以下の輝度については、トーンマップを時間変動しない。つまり、係数合成部134は、実施の形態1における境界輝度としてグラフィックス輝度情報を用いる。
【0096】
また、実施の形態1及び実施の形態2において、係数合成部134は、境界輝度を、映像表示装置102の設定などに基づき調整してもよい。同様に、映像再生装置101は、グラフィックス輝度情報をそのまま映像表示装置102に送るのではなく、環境、再生する映像の種類、又は使用者の好みなどに基づき、グラフィックス輝度情報を調整したうえで、映像表示装置102に送ってもよい。これらにより、ダイナミックトーンマップのグラフィックスへの影響度合いと主映像への適応度合いを調整できる。
【0097】
グラフィックス輝度情報は、字幕輝度情報とメニュー輝度情報とを含んでもよい。この場合、係数合成部134は、実施の形態1と同様に、字幕とメニューで、ダイナミックトーンマップの合成方法を変えてもよい。
【0098】
図12Aは、本実施の形態において映像再生装置101から映像表示装置102に送られる主映像ダイナミックメタデータ、グラフィックス重畳フラグ及びグラフィックス輝度情報の構成例を示す図である。グラフィックス輝度情報は、例えば、グラフィックスに用いられている最大輝度を示す。例えば、主映像ダイナミックメタデータは、1フレーム単位又は複数フレーム単位の最大輝度及び平均輝度を示す。
【0099】
図12Bは、主映像ダイナミックメタデータ、グラフィックス重畳フラグ及びグラフィックス輝度情報の別の構成例を示す図である。図12Bに示すようにグラフィックス輝度情報は、字幕の最大輝度と、メニューの最大輝度とを含んでもよい。
【0100】
また、グラフィックス輝度情報にグラフィックス重畳フラグの用途が含まれてもよい。例えば、グラフィックス輝度情報の一部又は特定の値が、グラフィックス重畳フラグがOFFであることを示し、その他の値によりグラフィックス重畳フラグがONであることを示してもよい。
【0101】
図13Aは、この場合の映像再生装置101から映像表示装置102に送られる主映像ダイナミックメタデータ、及びグラフィックス輝度情報の構成例を示す図である。図13Aに示す例では、グラフィックス輝度情報は8ビットで構成され、0−1020nitまでの輝度を示す。値0はグラフィックスが存在するが輝度が不明であることを示し、値1はグラフィックスが存在しないことを示し、その他の値は、8nitから1020nitまで、4nit単位の明るさを示す。なお、グラフィックス輝度情報のビット構成、明るさの範囲、0、1その他の値の意味については、この限りでなく、システム要件に合わせて変更できる。
【0102】
また、図13Bに示すように、グラフィックス輝度情報が字幕輝度情報とメニュー輝度情報とを含む場合も同様に構成できる。
【0103】
[3−2.効果]
図14Aは、グラフィックスが字幕である場合における、従来のダイナミックトーンマップによる字幕の輝度の変化を示す図である。字幕の輝度レベルが200nit以下の場合において、時間的にトーンマップが変化すると、図14Aからわかるように、0から200nit付近の輝度も変化し、本来一定である字幕の輝度が変化する。
【0104】
これに対し、実施の形態1では、所定の境界輝度以下の輝度に対して、トーンマップの時間変化が発生しないようにできる。これにより、図14Bからわかるように、字幕輝度である200nit以下の時間変化がなく、安定した輝度で字幕が表示される。ここで、境界輝度は、例えば標準的な字幕の輝度レベルより高い固定値であり、変換カーブのニーポイントも固定される。
【0105】
しかしながら、境界輝度が固定されると、ダイナミックトーンマップの変化幅が制限され、主映像に対して、ダイナミックトーンマップの効果が少なくなると言う課題がある。特に映像表示装置102の最大輝度(DPL)が低いときに問題が顕著である。もちろん、映像表示装置102において、グラフィックスデータの輝度を一定値以下に想定するなどダイナミックトーンマップの方法を工夫することにより、ダイナミックトーンマップの効果を大きくすることができる。しかしながら、この場合、想定以上の輝度のグラフィックスデータが表示される場合に、グラフィックスデータの表示がダイナミックトーンマップの影響を受けやすくなるなどの課題がある。
【0106】
これに対し、実施の形態2では、字幕の輝度情報に基づいて境界輝度を変化させることができるために、図15に示すように、より自由度が高いダイナミックトーンマップを主映像に適用できる。図15では、実際の字幕の輝度が100nitであった場合を図示している。図15に示すように、この場合、図14Bに示す境界輝度を200nitに固定して処理する場合に対して、より自由度が高いダイナミックトーンマップを実現できる。この効果は、接続する映像表示装置102の最大輝度が低いほど大きくなる。
【0107】
[3−3.詳細な構成例]
本実施の形態では、映像再生装置101において、主映像に重畳されるグラフィックスの輝度情報をダイナミックメタデータの一部に埋め込むと説明したが、その埋め込みの方法の例を説明する。
【0108】
Blu−rayディスクのようなパッケージメディアでは、映像を再生する場合、連続する1つの再生経路をプレイリストというファイルに定義し、ディスク上に記録している。プレイリストは、ディスク上の映像ストリームのうちどれを再生するのか、その再生開始位置、完了位置あるいは再生時間などの再生管理情報を記録している。
【0109】
そのプレイリストに、主映像と同時に表示するグラフィックスの輝度情報、もしくは輝度レンジの上限情報、を記録する。これにより、映像再生装置101は、容易に主映像とともに表示されるグラフィックスの輝度情報、もしくは輝度レンジの上限情報、を取得し、取得した情報を映像表示装置102に送ることができる。
【0110】
なお、グラフィックス輝度情報は、字幕輝度情報と、メニュー輝度情報とを含んでもよい。また、字幕又はメニューを複数の言語又は複数のバージョンから選択可能な場合、グラフィックス輝度情報は、複数の言語又はバージョンに対応する複数の字幕輝度情報又は複数のメニュー輝度情報を含んでもよい。この場合、複数の字幕輝度情報又は複数のメニュー輝度情報はプレイリストに記録されてもよい。
【0111】
さらに、グラフィックス輝度情報は、そのプレイリストの再生中の最大輝度だけでなく、シーン毎あるいは単位時間毎の最大輝度を再生時刻情報とともに示してもよい。
【0112】
なお、このプレイリストに格納するグラフィックス輝度情報は図15に記載のMaxSLLであってもよい。このMaxSLLは主映像に重畳されるグラフィックスの最大輝度、及び、主映像のダイナミックトーンマッピングの最小輝度の少なくとも一方である。
【0113】
なお、Blu−ray、Ultra HD Blu−rayの詳細は、例えば、非特許文献1に記載されている。
【0114】
以上のように、本実施の形態では、トーンマップ処理部123Aは、グラフィックスの輝度に応じて境界輝度を設定する。これにより、グラフィックスの種別等に応じて、適切な境界輝度を設定できるので、ダイナミックトーンマップを適用できる輝度範囲を広くできる。
【0115】
[4.実施の形態3]
本実施の形態に係る映像表示装置102は、実施の形態1の映像表示装置102に加え、主映像に重畳されているグラフィックスの位置を、フレーム間相関などを用いて検出する。映像表示装置102は、グラフィックスが重畳されているピクセルに対しては、ダイナミックトーンマップを行わず、時間変動がないトーンマップを適用する。これにより、ダイナミックトーンマップのグラフィックスへの影響を低減できる。
【0116】
以下、本実施の形態に係る映像表示システム100の構成を説明する。映像再生装置101の構成は、実施の形態1と同様である。なお、映像再生装置101は、グラフィックス重畳フラグを映像表示装置102へ送る機能を持たなくてもよい場合もある。
【0117】
映像表示装置102が備えるトーンマップ処理部123Bの構成が実施の形態1と異なる。図16は、本実施の形態に係るトーンマップ処理部123Bの構成を示すブロック図である。図16に示すトーンマップ処理部123Bは、図10に示すトーンマップ処理部123Aの構成に加え、グラフィックス検出部135を備える。
【0118】
グラフィックス検出部135には、映像信号が入力される。グラフィックス検出部135は、フレーム間相関などを用いて、グラフィックスが重畳されている画素位置を検出する。そして、グラフィックス検出部135は、グラフィックスが重畳されているかどうかを示す画素単位の情報を、係数合成部134へ出力する。
【0119】
グラフィックス重畳フラグがONの場合、係数合成部134は、グラフィックスが重畳されていない画素に対しては、主映像ダイナミックメタデータに基づくトーンマップ係数をトーンマップ部133に出力し、グラフィックスが重畳されている画素に対しては、時間変化しないトーンマップ係数をトーンマップ部133に出力する。
【0120】
また、グラフィックス重畳フラグが映像再生装置101から送られてこない場合、係数合成部134は、グラフィックス検出部135で検出された画素単位のグラフィックスが重畳されているかどうかの情報を用いて、トーンマップ係数の合成を行う。つまり、係数合成部134は、グラフィックス検出部135の出力信号に基づき、グラフィックス重畳フラグを作成してもよい。
【0121】
例えば、グラフィックス検出部135が、処理対象のフレーム又はフレーム群において、1画素又は予め定められた画素数の画素にグラフィックスが存在すると検出した場合、係数合成部134は、グラフィックスが重畳されているものとして、グラフィックス重畳フラグをONとして、処理を行う。
【0122】
この場合、トーンマップ部133は、グラフィックス検出部135の処理時間による時間遅れを考慮した処理を行う。例えば、この時間遅れが予めトーンマップ部133に設定される。
【0123】
また、トーンマップ部133は、グラフィックスとして検出された画素数が予め定められた閾値を超えた場合にグラフィックスが存在すると判定してもよい。これにより、グラフィックスの誤検出を抑制できる。なお、上記閾値は、使用者が変更可能であってもよい。
【0124】
以上のように、トーンマップ処理部123Bは、映像内のグラフィックスが重畳されているグラフィックス領域を検出し、グラフィックス領域に対して、第2トーンマップ処理を行い、映像内のグラフィックス領域以外の領域に対して、第1トーンマップ処理を行う。これにより、グラフィックスに対してはトーンマップを固定できるとともに、グラフィックス以外の領域に対しては、ダイナミックトーンマップを行うことができる。
【0125】
[5.実施の形態4]
実施の形態1とは異なり、本実施の形態では、映像再生装置101Aはグラフィックス重畳フラグを生成せず、映像表示装置102は、グラフィックス重畳フラグに基づきダイナミックトーンマップを変更する機能を有さない。その代わりに、映像再生装置101Aは、グラフィックスの輝度を変換する処理を行う。
【0126】
具体的には、映像再生装置101Aに接続されている映像表示装置102の最大輝度情報が映像再生装置101Aに設定される。映像再生装置101Aは、その最大輝度情報に応じて、映像表示装置102で行うトーンマップの影響を最小化するよう重畳するグラフィックスの輝度を変更する。これにより、重畳されたグラフィックスへのダイナミックトーンマップの影響を低減できる。
【0127】
映像再生装置101Aは、映像表示装置102の最大輝度情報を、操作者による設定により取得してもよいし、映像再生装置101Aが接続しているHDMI上のEDIDにより映像表示装置102から取得してもよい。映像表示装置102によるトーンマップの方法は様々であるので、映像再生装置101Aは、グラフィックスの輝度を、ある範囲内で調整する。映像再生装置101Aは、この調整を、操作者による操作に基づき行ってもよいし、映像表示装置102毎のデータベースから取得した情報に基づき行ってもよい。
【0128】
以下、本実施の形態に係る映像再生装置101Aの構成を説明する。図17は、本実施の形態に係る映像再生装置101Aの構成を示すブロック図である。図17に示す映像再生装置101Aは、実施の形態1に係る映像再生装置101の構成に加え、最大輝度設定部141と、輝度変換部142とを備える。
【0129】
最大輝度設定部141は、映像表示装置102の最大輝度情報を取得し、保持する。例えば、この最大輝度情報は、使用者による操作に基づき設定されてもよいし、映像再生装置101Aに接続されている映像表示装置102の属性情報として映像信号伝達装置を介して取得されてもよい。例えば、最大輝度設定部141は、映像表示装置102の最大輝度情報を、HDMIのEDIDとして取得してもよい。または、最大輝度設定部141は、映像表示装置102の属性情報をネットワーク上のサーバのデータベースから取得してもよい。
【0130】
グラフィックス合成部117で生成されたグラフィックス情報は、輝度変換部142に入力される。輝度変換部142は、最大輝度設定部141に保持されている映像表示装置102の最大輝度情報に基づき、グラフィックス情報の輝度を変換し、変換後のグラフィックス情報を主映像合成部118に送る。主映像合成部118は、主映像に変換後のグラフィックス情報を重畳する。
【0131】
例えば、映像表示装置102の最大輝度が500nitであり、グラフィックス情報の最大輝度が300nitである場合、輝度変換部142は、グラフィックス情報の最大輝度を、映像表示装置102の最大輝度の50%である250nitに変換する。これにより、映像表示装置102におけるトーンマップの影響を低減できる。
【0132】
なお、変換の条件、及び割合(上記50%)は、上記に限定されない。また、これらは、使用者により変更されてもよいし、接続される映像表示装置102の特性に合わせて変更されてもよい。
【0133】
以上のように、本実施の形態に係る映像表示システム100は、表示部124と、表示部124の最大輝度に応じて、第1映像の輝度を変換することで第2映像を生成する輝度変換部142と、第2映像の最大輝度に応じた変換カーブを用いて当該第2映像の輝度を変換することで第3映像を生成するトーンマップ処理を行うトーンマップ処理部123とを備え、表示部124は、第3映像を表示する。これによれば、トーンマップの変動による輝度の変動を抑制できる。
【0134】
具体的には、輝度変換部142は、表示部124の最大輝度に応じて、前記第1映像に含まれるグラフィックスの輝度を変換することで前記第2映像を生成する。これによれば、グラフィックスの輝度の変動を抑制できる。
【0135】
[6.実施の形態5]
実施の形態4とは異なり、本実施の形態では、映像再生装置101Bは、映像表示装置102におけるダイナミックトーンマップの方法を仮定し、グラフィックスを重畳する前に、重畳するグラフィックスに映像表示装置102におけるダイナミックトーンマップの逆変換を施す。これにより、重畳したグラフィックスが、ダイナミックトーンマップを施した後に、もとの輝度及び色で表示されるようにできる。
【0136】
例えば、映像再生装置101Bは、接続されている映像表示装置102のダイナミックトーンマップの方法を以下の手段により仮定する。簡易的には、映像再生装置101Bは、影響を受けない最大輝度として、映像表示装置102の最大輝度の例えば90%に達する映像の輝度などの情報により対応する。より細かくは、映像再生装置101Bは、データベースより映像表示装置102のダイナミックトーンマップ方法を取得する。または、映像再生装置101Bは、テストパターンを用いて測定を行い、測定結果に基づきダイナミックトーンマップの方法を推定する。
【0137】
以下、本実施の形態に係る映像再生装置101Aの構成を説明する。図18は、本実施の形態に係る映像再生装置101Bの構成を示すブロック図である。
【0138】
図18に示す映像再生装置101Bは、図17に示す実施の形態4に係る映像再生装置101Aに対して、最大輝度設定部141の代わりにトーンマップ情報保持部143を備える。また、メタデータ取得部116から出力される主映像ダイナミックメタデータが、輝度変換部142に送られる。
【0139】
トーンマップ情報保持部143は、映像表示装置102のトーンマップ処理に関わるトーンマップ情報を保持する。輝度変換部142は、このトーンマップ情報と主映像ダイナミックメタデータとを用いて、グラフィックス情報に対して、映像表示装置102で行われるトーンマップの逆変換を施し、逆変換されたグラフィックス情報を主映像合成部118に出力する。主映像合成部118は、主映像に、トーンマップの逆変換が施されたグラフィックスを重畳する。
【0140】
これにより、映像信号を受けた映像表示装置102においてトーンマップが行われた場合に、トーンマップの逆変換を受けたグラフィックス部分は、元のグラフィックスとして表示される。よって、映像表示装置102のトーンマップの影響を低減できる。
【0141】
図19は、映像表示装置102で用いられるトーンマップの一例を示す図である。図20は、この場合のトーンマップ情報の一例を示す図である。例えば、トーンマップ情報は、映像表示装置102の輝度情報と、映像表示装置102のトーンマップ情報とを含む。映像表示装置102の輝度情報は、映像表示装置102の最大輝度と、全画素に対して同時に表示可能な最大輝度である全画面表示最大輝度とを示す。また、映像表示装置102のトーンマップ情報は、トーンマップにおける変極点を示し、例えば、変極点の輝度又は変極点間の傾きの増分が示される。
【0142】
なお、トーンマップ情報の構成は上記に限定されない。例えば、トーンマップ情報は、図20に示す情報のうち一部の情報のみを含んでもよい。
【0143】
また、映像表示装置102のトーンマップの逆変換の条件、又は割合(例えば上記90%)は、使用者により変更されてもよいし、接続する映像表示装置102毎に変更されてもよい。
【0144】
また、映像再生装置101Bは、映像表示装置102のトーンマップ情報を、利用者による設定により取得してもよいし、映像再生装置101Bに接続されている映像表示装置102の属性として映像信号伝達装置を介して取得してもよい。例えば、映像再生装置101Bは、トーンマップ情報を、HDMIのEDIDとして取得してもよい。または、映像再生装置101Bは、接続されている映像表示装置102の属性情報をネットワーク上のサーバのデータベースから取得してもよい。
【0145】
以上のように、本実施の形態に係る映像表示システム100は、第1映像の輝度を変換することで第2映像を生成する輝度変換部142と、第2映像の最大輝度に応じた変換カーブを用いて当該第2映像の輝度を変換することで第3映像を生成するトーンマップ処理を行うトーンマップ処理部123と、第3映像を表示する表示部124とを備える。輝度変換部142は、トーンマップ処理部123によるトーンマップ処理に応じて、第1映像の輝度を変換する。これによれば、トーンマップの変動による輝度の変動を抑制できる。
【0146】
具体的には、輝度変換部142は、第1映像の最大輝度と、トーンマップ処理部123によるトーンマップ処理で用いられる変換カーブとに基づき、第1映像の輝度を変換する。
【0147】
[7.変形例]
取得部111が取得するHDR映像は、例えばBlu−rayディスク、DVD、Internetの動画配信サイト、放送、又はHDD(Hard Disk Drive)内の映像であってもよい。
【0148】
上記映像再生装置は、ディスクプレイヤー、ディスクレコーダ、セットトップボックス、テレビ、パーソナルコンピュータ、又はスマートフォンなど、記録媒体、放送又はインターネットからの圧縮された映像信号を復号し、映像表示装置に送る装置でもよい。また、映像再生装置の機能の一部又は全てが、映像表示装置102に含まれてもよい。例えば、映像再生装置に含まれる処理部のうち、取得部111以外の処理部が映像表示装置102に含まれてもよい。また、映像表示装置102に含まれる映像受信部121、メタデータ取得部122及びトーンマップ処理部123が映像再生装置に含まれてもよい。また、トーンマップ処理部123に含まれる処理部のうちトーンマップ部133以外の処理部が映像再生装置に含まれてもよい。
【0149】
映像再生装置からの映像信号を映像表示装置に伝送する映像信号伝送手段は、HDMI、DVI、又はDPなどの映像信号を非圧縮の状態で伝送する手段であってもよいし、ネットワークを通じた伝送のように映像信号を圧縮した形式で伝送する手段であってもよい。
【0150】
映像表示装置の最大輝度情報又はトーンマップ情報の映像再生装置への設定は、利用者が映像再生装置にリモートコントローラなどを用いて入力することで行われてもよいし、利用者が映像再生装置が備える操作装置を用いて入力することで行われてもよい。または、利用者は、インターネット又はその他の手段を用いて、これらの情報を取得し、取得した情報をポータブル記憶媒体に保存し、ポータブル記憶媒体を介して、これらの情報を映像再生装置に送ってもよい。また、映像再生装置が直接、インターネットに接続され、映像再生装置は、サーバのデータベースから、これらの情報を取得してもよい。さらに、映像再生装置は、映像表示装置にテストパターンを表示し、表示されたテストパターンを用いて映像表示装置の特性を確認しながら、これらの情報を取得及び記憶してもよい。
【0151】
映像表示装置のトーンマップ情報は、実施の形態5では、変極点が2箇所の場合を例示したが、3箇所以上の変極点で定義されてもよいし、曲線により定義されてもよい。
【0152】
映像再生装置は、グラフィックス(字幕又はメニュー)の輝度をそのデータから検出することでグラフィックス輝度情報(字幕輝度情報及びメニュー輝度情報を含む)を生成してもよいし、映像データ作成時に予め作成されたグラフィックスの輝度を取得してもよい。例えば、グラフィックスの輝度は、ディスクに記録されていてもよいし、メタデータとして放送又はInternetで送付されてもよい。映像再生装置は、グラフィックスの輝度を読み取り、ダイナミックメタデータの一部として映像表示装置に送る。あるいは、Internetに接続されたサーバのデータベースに、再生するコンテンツに対する情報として、グラフィックス(字幕又はメニュー)の輝度情報が記録されており、映像再生装置は、当該データベースからグラフィックスの輝度情報を取得し、取得した輝度情報を映像表示装置に送ってもよい。
【0153】
以上、本開示の実施の形態に係る映像表示システムについて説明したが、本開示は、この実施の形態に限定されるものではない。
【0154】
また、上記実施の形態に係る映像表示システムに含まれる各処理部は典型的には集積回路であるLSIとして実現される。これらは個別に1チップ化されてもよいし、一部又は全てを含むように1チップ化されてもよい。
【0155】
また、集積回路化はLSIに限るものではなく、専用回路又は汎用プロセッサで実現してもよい。LSI製造後にプログラムすることが可能なFPGA(Field Programmable Gate Array)、又はLSI内部の回路セルの接続や設定を再構成可能なリコンフィギュラブル・プロセッサを利用してもよい。
【0156】
また、上記各実施の形態において、各構成要素は、専用のハードウェアで構成されるか、各構成要素に適したソフトウェアプログラムを実行することによって実現されてもよい。各構成要素は、CPUまたはプロセッサなどのプログラム実行部が、ハードディスクまたは半導体メモリなどの記録媒体に記録されたソフトウェアプログラムを読み出して実行することによって実現されてもよい。
【0157】
また、本開示は、映像表示システムにより実行される各種方法として実現されてもよい。
【0158】
また、ブロック図における機能ブロックの分割は一例であり、複数の機能ブロックを一つの機能ブロックとして実現したり、一つの機能ブロックを複数に分割したり、一部の機能を他の機能ブロックに移してもよい。また、類似する機能を有する複数の機能ブロックの機能を単一のハードウェア又はソフトウェアが並列又は時分割に処理してもよい。
【0159】
また、フローチャートにおける各ステップが実行される順序は、本開示を具体的に説明するために例示するためのものであり、上記以外の順序であってもよい。また、上記ステップの一部が、他のステップと同時(並列)に実行されてもよい。
【0160】
以上、一つまたは複数の態様に係る映像表示システムについて、実施の形態に基づいて説明したが、本開示は、この実施の形態に限定されるものではない。本開示の趣旨を逸脱しない限り、当業者が思いつく各種変形を本実施の形態に施したものや、異なる実施の形態における構成要素を組み合わせて構築される形態も、一つまたは複数の態様の範囲内に含まれてもよい。
【産業上の利用可能性】
【0161】
本開示は、映像表示システム、映像再生装置又は映像表示装置に適用できる。
【符号の説明】
【0162】
100 映像表示システム
101、101A、101B 映像再生装置
102 映像表示装置
111 取得部
112 デマルチプレクサ
113 主映像デコード部
114 字幕デコード部
115 メニューデコード部
116、122 メタデータ取得部
117 グラフィックス合成部
118 主映像合成部
119 映像送出部
121 映像受信部
123、123A、123B トーンマップ処理部
124 表示部
131 係数演算部
132 係数保持部
133 トーンマップ部
134 係数合成部
135 グラフィックス検出部
141 最大輝度設定部
142 輝度変換部
143 トーンマップ情報保持部
【手続補正2】
【補正対象書類名】特許請求の範囲
【補正対象項目名】全文
【補正方法】変更
【補正の内容】
【特許請求の範囲】
【請求項1】
映像の最大輝度に応じた変換カーブを用いて前記映像の輝度を変換するトーンマップ処理を行うトーンマップ処理部と、
前記トーンマップ処理後の映像を表示する表示部とを備え、
前記トーンマップ処理部は、前記映像における最大輝度の時系列の変化に応じて、前記変換カーブを時系列に変更する第1トーンマップ処理を行うか、前記映像における最大輝度の時系列の変化に依らず、一定の変換カーブを用いる第2トーンマップ処理を行うか、を切り替える
映像表示装置。
【請求項2】
前記トーンマップ処理部は、前記映像にグラフィックスが含まれない場合、前記第1トーンマップ処理を行い、前記映像に前記グラフィックスが含まれる場合、前記第2トーンマップ処理を行う
請求項1記載の映像表示装置。
【請求項3】
前記トーンマップ処理部は、前記第1トーンマップ処理を行うか前記第2トーンマップ処理を行うかを示す第1フラグに応じて、前記第1トーンマップ処理を行うか、前記第2トーンマップ処理を行うかを決定する
請求項1記載の映像表示装置。
【請求項4】
前記第1フラグは、前記映像に字幕が含まれるか否かを示す第2フラグと、前記映像にメニューが含まれるか否かを示す第3フラグとを含む
請求項3記載の映像表示装置。
【請求項5】
前記トーンマップ処理部は、前記第1トーンマップ処理から前記第2トーンマップ処理に切り替わった場合、前記第2トーンマップ処理において、直前の変換カーブを継続して用いる
請求項1〜4のいずれか1項に記載の映像表示装置。
【請求項6】
前記トーンマップ処理部は、前記第2トーンマップ処理において、
境界輝度以上の輝度に対しては、前記映像における最大輝度の時系列の変化に応じて、前記変換カーブを時系列に変更し、
前記境界輝度未満の輝度に対しては、前記映像における最大輝度の時系列の変化に依らず、一定の変換カーブを用いる
請求項2記載の映像表示装置。
【請求項7】
前記トーンマップ処理部は、前記グラフィックスの輝度に応じて前記境界輝度を設定する
請求項6記載の映像表示装置。
【請求項8】
前記トーンマップ処理部は、
前記映像内の前記グラフィックスが重畳されているグラフィックス領域を検出し、
前記グラフィックス領域に対して、前記第2トーンマップ処理を行い、
前記映像内の前記グラフィックス領域以外の領域に対して、前記第1トーンマップ処理を行う
請求項2記載の映像表示装置。
【請求項9】
映像表示装置における映像表示方法であって、
映像の最大輝度に応じた変換カーブを用いて前記映像の輝度を変換するトーンマップ処理を行うトーンマップ処理ステップと、
前記トーンマップ処理後の映像を表示する表示ステップとを含み、
前記トーンマップ処理ステップでは、前記映像における最大輝度の時系列の変化に応じて、前記変換カーブを時系列に変更する第1トーンマップ処理を行うか、前記映像における最大輝度の時系列の変化に依らず、一定の変換カーブを用いる第2トーンマップ処理を行うか、を切り替える
映像表示方法。
【手続補正3】
【補正対象書類名】図面
【補正対象項目名】全図
【補正方法】変更
【補正の内容】
【図1】
【図2】
【図3A】
【図3B】
【図4A】
【図4B】
【図5】
【図6】
【図7】
【図8A】
【図8B】
【図9】
【図10】
【図11A】
【図11B】
【図12A】
【図12B】
【図13A】
【図13B】
【図14A】
【図14B】
【図15】
【図16】
【図17】
【図18】
【図19】
【図20】
【国際調査報告】