中文字幕av专区_日韩电影在线播放_精品国产精品久久一区免费式_av在线免费观看网站

溫馨提示×

溫馨提示×

您好,登錄后才能下訂單哦!

密碼登錄×
登錄注冊×
其他方式登錄
點擊 登錄注冊 即表示同意《億速云用戶服務條款》

WebRTC中SDP是怎樣的

發布時間:2021-09-18 18:12:45 來源:億速云 閱讀:252 作者:柒染 欄目:編程語言

WebRTC中SDP是怎樣的,針對這個問題,這篇文章詳細介紹了相對應的分析和解答,希望可以幫助更多想解決這個問題的小伙伴找到更簡單易行的方法。

WebRTC 是 Web Real-Time Communication,即網頁實時通信的縮寫,是 RTC 協議的一種 Web 實現,項目由 Google 開源,并和 IETF 和 W3C 制定了行業標準。在國內 WebRTC 已經獲得了越來越多廠商的支持,應用前景變得更加廣闊,所以我們也開設專欄,分享阿里云內部的 WebRTC 研究工作。


WebRTC中SDP是怎樣的

Overview

狹義的說 WebRTC 是指瀏覽器端,瀏覽器端如何直接交換數據呢?肯定是沒法完全獨立完成的,必須得依靠服務器。一般依賴幾種服務器:

  1. Signaling 信令服務器,也就是交換房間和會議的媒體信息,以及會議期間的消息,媒體描述使用的是 SDP 協議,也就是本文剖析的重點。

  2. ICE 服務器,可以分為幫助兩個客戶端打洞建立 P2P 連接的 STUN 服務器,還有如果連不通就直接轉發的 TURN 服務器。ICE 的信息叫 Candidate,可以通過 SDP 交換,或者通過 Trickle。

  3. SFU 或 MCU 服務器,如果多個人開會,每個端都向其他參會的端直接發送數據叫 MESH,但是 MESH 明顯有局限性,SFU 就是轉發可以讓客戶端只上行一路流轉給其他客戶端,而 MCU 更強大,可以上下行都只有一路流。

Note: WebRTC 除了傳輸,還有一個重要特性就是安全性,也就是 DTLS,而 DTLS 有些信息就是通過 SDP 傳遞的,后面會有相關的技術文章來介紹 DTLS。

下面,我們正式介紹 SDP 協議。

What's SDP

本文開篇的 SDP 關鍵屬性圖,已經幫助我們以全局的視角一窺 SDP 的模樣。SDP 描述了媒體會話,網絡信息、安全特性、傳輸策略等,圖中的每一個 SDP 屬性都在不同的應用場景下發揮著不同的作用,不可小覷。

接下來,我們進一步給出 SDP 的官方定義:SDP(Session Description Protocol) 是一種會話描述協議,基于文本,其本身并不屬于傳輸協議,需要依賴其它的傳輸協議(比如 SIP 和 HTTP)來交換必要的媒體信息,用于兩個會話實體之間的媒體協商。

WebRTC 的 Offer 和 Answer 包含了 SDP。相關的 RFC 包括:

  1. 1998, RFC2327

  2. 2006, RFC4566

一個不錯的 WebRTC 的 SDP 例子分析

Offer and Answer

WebRTC 使用 Offer-Answer 模型交換 SDP,Offer 中有 SDP,Answer 中也有。例如 Alice 和 Bob 通過 WebRTC 通信:

// Alice Offer
v=0
o=- 2397106153131073818 2 IN IP4 127.0.0.1
s=-
t=0 0
a=group:BUNDLE video
a=msid-semantic: WMS gLzQPGuagv3xXolwPiiGAULOwOLNItvl8LyS
m=video 9 UDP/TLS/RTP/SAVPF 96 97
c=IN IP4 0.0.0.0
a=rtcp:9 IN IP4 0.0.0.0
a=ice-ufrag:l5KU
a=ice-pwd:+Sxmm3PoJUERpeHYL0HW4/T9
a=ice-options:trickle
a=fingerprint:sha-256 7C:93:85:40:01:07:91:BE:DA:64:A0:37:7E:61:CB:9D:91:9B:44:F6:C9:AC:3B:37:1C:00:15:4C:5A:B5:67:74
a=setup:actpass
a=mid:video
a=sendrecv
a=rtcp-mux
a=rtcp-rsize
a=rtpmap:96 VP8/90000
a=rtcp-fb:96 goog-remb
a=rtcp-fb:96 transport-cc
a=rtcp-fb:96 ccm fir
a=rtcp-fb:96 nack
a=rtcp-fb:96 nack pli
a=rtpmap:97 rtx/90000
a=fmtp:97 apt=96
a=ssrc-group:FID 2527104241
a=ssrc:2527104241 cname:JPmKBgFHH5YVFyaJ
a=ssrc:2527104241 msid:gLzQPGuagv3xXolwPiiGAULOwOLNItvl8LyS c7072509-df47-4828-ad03-7d0274585a56
a=ssrc:2527104241 mslabel:gLzQPGuagv3xXolwPiiGAULOwOLNItvl8LyS
a=ssrc:2527104241 label:c7072509-df47-4828-ad03-7d0274585a56

// Bob Answer
v=0
o=- 5443219974135798586 2 IN IP4 127.0.0.1
s=-
t=0 0
a=group:BUNDLE video
a=msid-semantic: WMS uiZ7cB0hsFDRGgTIMNp6TajUK9dOoHi43HVs
m=video 9 UDP/TLS/RTP/SAVPF 96 97
c=IN IP4 0.0.0.0
a=rtcp:9 IN IP4 0.0.0.0
a=ice-ufrag:MUZf
a=ice-pwd:4QhikLcmGXnCfAzHDB++ZjM5
a=ice-options:trickle
a=fingerprint:sha-256 2A:5A:B8:43:66:05:B3:6A:E9:46:36:DF:DF:20:11:6A:F6:11:EA:D9:4E:26:E3:CE:5A:3A:C6:8D:03:49:7B:DE
a=setup:active
a=mid:video
a=sendrecv
a=rtcp-mux
a=rtcp-rsize
a=rtpmap:96 VP8/90000
a=rtcp-fb:96 goog-remb
a=rtcp-fb:96 transport-cc
a=rtcp-fb:96 ccm fir
a=rtcp-fb:96 nack
a=rtcp-fb:96 nack pli
a=rtpmap:97 rtx/90000
a=fmtp:97 apt=96
a=ssrc-group:FID 3587783331
a=ssrc:3587783331 cname:INxZnBV2Sty1zlmN
a=ssrc:3587783331 msid:uiZ7cB0hsFDRGgTIMNp6TajUK9dOoHi43HVs a3b297e7-cdbe-464e-a32c-347465ace055
a=ssrc:3587783331 mslabel:uiZ7cB0hsFDRGgTIMNp6TajUK9dOoHi43HVs
a=ssrc:3587783331 label:a3b297e7-cdbe-464e-a32c-347465ace055

Remark: 用 Chrome 瀏覽器,先打開 webrtc-internals,然后打開 Alice 頁面點 Share 按鈕,接著打開 Bob 頁面點 Share,看到上面的 Offer 和 Answer。

交換完 SDP 后,會交換 Candidate:

// Alice Candidate
candidate: candidate:1912876010 1 udp 2122260223 30.2.220.94 52832 typ host generation 0 ufrag l5KU network-id 1 network-cost 10
candidate: candidate:1015535386 1 tcp 1518280447 30.2.220.94 9 typ host tcptype active generation 0 ufrag l5KU network-id 1 network-cost 10

// Bob Candidate
candidate:1912876010 1 udp 2122260223 30.2.220.94 51551 typ host generation 0 ufrag MUZf network-id 1 network-cost 10

最后 Alice 和 Bob 通信的 Candidate pair,選擇的是 UDP 通道:

WebRTC中SDP是怎樣的

Alice 發送的 Video 的信息:

WebRTC中SDP是怎樣的

Alice 收到的 (Bob 的) Video信息:

WebRTC中SDP是怎樣的

一般來說,推流方先發起 Offer,接收方給 Answer。比如客戶端推流到 SFU,客戶端發起 Offer 推流,SFU 給客戶端 Answer,客戶端將流推到 SFU,SFU 再轉發給其他客戶端。Licode 和 Janus 都是這種做法,這種方式下,如果客戶端需要拉取其他的客戶端的流,一般需要使用另外的 PeerConnection,接收 SFU 的 Offer,生成 Answer 后回應給 SFU。

不過,推流方發起 Offer 不是必須的,接收方也可以給 Offer,推流方給 Answer。比如 MediaSoup 這種 SFU,客戶端先給一個 Offer 給 SFU,SFU 只是檢查這個 Offer 中的媒體特性,然后 SFU 會生成 Offer(包含會議中的其他客戶端的流,如果沒有人則沒有 SSRC)給客戶端,客戶端發送 Answer 給 SFU。這種方式的好處是其他客戶端加入,以及流的變更(比如關閉視頻打開視頻時),都可以使用 Reoffer,也就是統一由 SFU 發起新的 Offer,客戶端響應,SFU 和客戶端的交互模式只有一種。

SDP Structure

SDP 描述分為兩部分,分別是會話級別的描述(session level)和媒體級別的描述(media level),其具體的組成可參考 RFC4566,帶星號 (*) 的是可選的。常見的內容如下:

Session description(會話級別描述)
         v=  (protocol version)
         o=  (originator and session identifier)
         s=  (session name)
         c=* (connection information -- not required if included in all media)
         One or more Time descriptions ("t=" and "r=" lines; see below)
         a=* (zero or more session attribute lines)
         Zero or more Media descriptions

Time description
         t=  (time the session is active)

Media description(媒體級別描述), if present
         m=  (media name and transport address)
         c=* (connection information -- optional if included at session level)
         a=* (zero or more media attribute lines)

對照 Alice 的 Offer(只包含了視頻沒有開啟音頻):

// Session description
v=0
o=- 2397106153131073818 2 IN IP4 127.0.0.1
s=-
c=IN IP4 0.0.0.0

// Time description
t=0 0

// Session Attributes
a=group:BUNDLE video
a=msid-semantic: WMS gLzQPGuagv3xXolwPiiGAULOwOLNItvl8LyS

// Media description
m=video 9 UDP/TLS/RTP/SAVPF 96 97
c=IN IP4 0.0.0.0
a=rtcp:9 IN IP4 0.0.0.0
a=ice-ufrag:l5KU
a=ice-pwd:+Sxmm3PoJUERpeHYL0HW4/T9
a=ice-options:trickle
a=fingerprint:sha-256 7C:93:85:40:01:07:91:BE:DA:64:A0:37:7E:61:CB:9D:91:9B:44:F6:C9:AC:3B:37:1C:00:15:4C:5A:B5:67:74
a=setup:actpass
a=mid:video
a=sendrecv
a=rtcp-mux
a=rtcp-rsize
a=rtpmap:96 VP8/90000
a=rtcp-fb:96 goog-remb
a=rtcp-fb:96 transport-cc
a=rtcp-fb:96 ccm fir
a=rtcp-fb:96 nack
a=rtcp-fb:96 nack pli
a=rtpmap:97 rtx/90000
a=fmtp:97 apt=96
a=ssrc-group:FID 2527104241
a=ssrc:2527104241 cname:JPmKBgFHH5YVFyaJ
a=ssrc:2527104241 msid:gLzQPGuagv3xXolwPiiGAULOwOLNItvl8LyS c7072509-df47-4828-ad03-7d0274585a56
a=ssrc:2527104241 mslabel:gLzQPGuagv3xXolwPiiGAULOwOLNItvl8LyS
a=ssrc:2527104241 label:c7072509-df47-4828-ad03-7d0274585a56

SDP Line 是順序相關的,比如 a=rtpmap:96 后面的都是它相關的設置,直到下一行是a=rtpmap或者其他屬性。

SDP Line 沒有統一的 Schema 描述,也就是沒有一個固定的規則能解析所有 Line,SDP Grammer 只是描述了 SDP 相關的屬性,具體每個屬性的表達需要根據屬性定義,定義在 RFC 4566,例如:

a=rtpmap:<payload type> <encoding name>/<clock rate> [/<encoding parameters>]

SDP 解析時,每個 SDP Line 都是以 key=... 形式,解析出 key 是 a 后,可能有兩種方式,可參考 RFC4566:

a=<attribute>
a=<attribute>:<value>

比如 c=IN IP4 0.0.0.0,key 為 c。 比如 a=rtcp-mux,key 為 a,attribute 為 rtcp-mux,沒有 value。 比如 a=rtpmap:96 VP8/90000,key 為 a,attribute 為 rtpmap,value=96 VP8/90000。

有時候并非冒號 (:) 就一定是 <attribute>:<value>,實際上 value 里面也會有冒號,比如:

a=fingerprint:sha-256 7C:93:85:40:01:07:91:BE
a=extmap:2 urn:ietf:params:rtp-hdrext:toffset
a=extmap:3 http://www.webrtc.org/experiments/rtp-hdrext/abs-send-time
a=ssrc:2527104241 msid:gLzQPGuagv3xXolwPiiGAULOwOLNItvl8LyS

Session Level Field

會話級別的 SDP 描述字段包括:v、o、s、c、b、t。

  • v(version) SDP 協議版本,值固定為 0。

  • o(origin) 代表會話的發起者。

  • s(session name) 會話的名稱,每個 SDP 中有且僅能有一個 s 描述,其值不能為空。

  • c(connection data) 攜帶了會話的連接信息,其實就是 IP 地址。 SDP 的會話級別描述可以包含該字段,每一個媒體級別的描述也可以包含該字段,如果會話級別和媒體級別都有 c line,那么以媒體級別的 c line 為準。 因為 WebRTC 使用 ICE candidate 交換地址信息,所以不會用到 c line,不過這并不代表 c line 沒有用,在 SIP 視頻會議場景中,c line 就必不可少了,文末會再次介紹該字段。

  • b (bandwidth) 表示會話或媒體使用的建議帶寬。

  • t(timing) 指定了會話的開始和結束時間,如果開始和結束時間都為 0,那么意味著這次會話是永久的。

關于會話級別字段的更詳細的描述,請參考 RFC 4566。

Media Codecs

會話級別描述完成后,后面就是零到多個媒體級別描述,比如:

// Session Description
v=0
......

// Audio Media Description
m=audio 9 UDP/TLS/RTP/SAVPF 111
......

// Video Media Description
m=video 9 UDP/TLS/RTP/SAVPF 96 97
......

這個 SDP 描述了一個音頻和一個視頻,它的格式參考 RFC4566:

m=<media> <port> <proto> <fmt> ...

其中,后面的一串數字 11196 97 就是 fmt,分別代表音頻和視頻的 Media Codec,后面會跟著 rtpmap、rtcp-fb、fmtp 這些屬性來做進一步的詳細的描述。

m=audio 9 UDP/TLS/RTP/SAVPF 111
a=mid:audio
a=rtpmap:111 opus/48000/2
a=rtcp-fb:111 transport-cc
a=fmtp:111 minptime=10;useinbandfec=1

m=video 9 UDP/TLS/RTP/SAVPF 96 97
a=mid:video
a=rtpmap:96 VP8/90000
a=rtcp-fb:96 goog-remb
a=rtcp-fb:96 transport-cc
a=rtcp-fb:96 ccm fir
a=rtcp-fb:96 nack
a=rtcp-fb:96 nack pli
a=rtpmap:97 rtx/90000
a=fmtp:97 apt=96

Remark: 當然,M line 的類型不是只有 audio 和 video,還有 application(bfcp)、text 等媒體類型。

Remark: a=mid 屬性可以認為是每個 M 描述的唯一 ID。比如 a=mid:audio,那么 audio 這個字符串就是這個 M 描述的 ID。有的時候 mid 屬性值也可以用數字表示,比如 a=mid:0,那么 0 也是這個 M 描述的 ID。mid 值一般和 grouping 傳輸屬性的 BUNDLE 策略結合來用,比如 a=group:BUNDLE audio video,代表本次會話將對 mid 為 audiovideo 的 M 描述進行復用傳輸。

Remark: M line 的數字 9 代表該媒體類型的傳輸端口,在 RTC 場景中都是使用 ICE candidate 的地址信息進行數據傳輸,所以 M line 的 port 并沒有用到。不過,在 SIP 的場景下,M line 的 port 就十分重要了,此時,port 代表 RTP 端口,而且必須是偶數。結合 SDP 會話級別描述中的 C line 中的 IP 地址,我們就可以知道 SIP 的這路媒體流的傳輸地址。

Remark: RTX 表示是重傳,比如 video 的 97,就是 apt=96 的重傳。也就是說如果用的是 97 這個編碼格式,它是在 96(VP8) 基礎上加了重傳功能。

而一共有多少媒體流,則是通過 SSRC 指定的:

m=audio 9 UDP/TLS/RTP/SAVPF 111 103 104 9 0 8 106 105 13 110 112 113 126
a=ssrc:2582129002 cname:8Y1pmIKBijmWeALu
a=ssrc:2582129002 msid:34fD1qguf2v79436S1khLkth8Nb6LbedcF9H bab38910-40cd-4581-9a20-e3f558abb397
a=ssrc:2582129002 mslabel:34fD1qguf2v79436S1khLkth8Nb6LbedcF9H
a=ssrc:2582129002 label:bab38910-40cd-4581-9a20-e3f558abb397

m=video 9 UDP/TLS/RTP/SAVPF 96 97 98 99 100 101 102 123 127 122 125 107 108 109 124
a=ssrc:565530905 cname:8Y1pmIKBijmWeALu
a=ssrc:565530905 msid:34fD1qguf2v79436S1khLkth8Nb6LbedcF9H 2c533cfe-b6bf-41a8-93f0-1ca031436702
a=ssrc:565530905 mslabel:34fD1qguf2v79436S1khLkth8Nb6LbedcF9H
a=ssrc:565530905 label:2c533cfe-b6bf-41a8-93f0-1ca031436702

Remark: SSRC 就包含了需要發送的媒體流,另外 Offer 和 Answer 中都可以包含 SSRC。比如客戶端和 MediaSoup 通信時,MediaSoup 總是給客戶端發 Offer,MediaSoup 的 Offer 包含了 MediaSoup 要發送(轉發其他客戶端的流給客戶端)的媒體流 SSRC,同時客戶端的 Answer 中也包含了自己要推送的 SSRC 流,他們的類型都是 sendrecv。

Remark: msid 對應了NetStream.id,也就是代表了不同的媒體源,這些 SSRC 可以是不同的媒體源。

如何確定最后的編碼?對方會在 Answer 中給出,比如上面 Offer 給出了多個編碼,在 Answer 中會選擇一個:

m=audio 9 UDP/TLS/RTP/SAVPF 111
m=video 9 UDP/TLS/RTP/SAVPF 100 102 127 125 108 124
a=rtpmap:100 H264/90000
a=rtpmap:102 H264/90000
a=rtpmap:127 H264/90000
a=rtpmap:125 H264/90000
a=rtpmap:108 red/90000
a=rtpmap:124 ulpfec/90000

雖然 Video 編碼有 100 到 125,但是他們都是 H.264,而 108 和 124 則是 FEC,基于 H.264。

PlanB and UnifiedPlan

上面的 MediaCodecs 中,沒有規定如何指定多條流。實際上 Audio 和 Video 都有多個 SSRC,每個 SSRC 的編碼可能相同但也可能不同。比如互聯網視頻會議,用移動端接入時,編碼可能都是 H.264,但是和其他終端接入時可能會有其他編碼。

如果 SSRC 的編碼不相同,那么將這些 SSRC 放在同一個 M 描述就會有問題,這就是 PlanB 和 UnifiedPlan 的關鍵所在。對于 PlanB 只有一個 M(audio) 和 M(video),他們的編碼要相同,當有多路媒體流時,則根據 SSRC 去區分。UnifiedPlan 則可以有多個 M(audio) 和 M(video),每路流都有自己的 M 描述,這樣就可以支持不同的編碼。

PlanB 和 UnifiedPlan 其實就是 WebRTC 在多路媒體源(multi media source)場景下的兩種不同的 SDP 協商方式。如果引入 Stream 和 Track 的概念,那么一個 Stream 可能包含 AudioTrack 和 VideoTrack,當有多路 Stream 時,就會有更多的 Track,如果每一個 Track 唯一對應一個自己的 M 描述,那么這就是 UnifiedPlan,如果每一個 M line 描述了多個 Track(track id),那么這就是 Plan B。

Note: 當只有一路音頻流和一路視頻流時,Plan B 和 UnifiedPlan 的格式是相互兼容的。

Remark: Chrome 早期支持的是 PlanB,目前最新版本也支持了 UnifiedPlan,參考 Need to implement WebRTC "Unified Plan" for multistream。

PlanB 參考下圖:

WebRTC中SDP是怎樣的

UnifiedPlan 參考下圖:

WebRTC中SDP是怎樣的

Candidate

Candidate 就是傳輸的候選人,客戶端會生成多個 Candidate,比如有 host 類型的、有 relay 類型的、有 UDP 和 TCP 的,如下圖所示:

sdpMid: audio, sdpMLineIndex: 0, candidate:2213672593 1 udp 2122260223 30.2.228.19 51068 typ host
sdpMid: video, sdpMLineIndex: 1, candidate:2213672593 1 udp 2122260223 30.2.228.19 55061 typ host

sdpMid: audio, sdpMLineIndex: 0, candidate:3446803041 1 tcp 1518280447 30.2.228.19 9 typ host
sdpMid: video, sdpMLineIndex: 1, candidate:3446803041 1 tcp 1518280447 30.2.228.19 9 typ host

sdpMid: video, sdpMLineIndex: 1, candidate:150963819 1 udp 41885439 182.92.80.26 54400 typ relay raddr 42.120.74.91 rport 37714
sdpMid: audio, sdpMLineIndex: 0, candidate:150963819 1 udp 41885439 182.92.80.26 59241 typ relay raddr 42.120.74.91 rport 49618

Remark: 我們去掉了后面的屬性,比如 generation 0 ufrag kce9 network-id 1 network-cost 10,這些屬于 Candidate 的描述,和連通性檢查等相關。

客戶端自己生成了 6 個 Candidates,3 個 Audio 和 3 個 Video,2 個 TCP 和 4 個 UDP,4 個 host 和 2 個 relay。當然對方也會有很多 Candidate,接下來就是自己的 Candidates 和對方的 Candidates 匹配連通(ICE Connectivity Checks),形成 CandidatePair 也就是傳輸通道。Candidate 還附帶了網絡屬性,比如network-cost 會在 ICE Connectivity Checks 時用到。

Remark: 關于 Candidate 的類型,還有 srflx 以及 prflx,關于這兩種 Candidate 類型的定義以及區分,后面會在 ICE 相關的技術文章中介紹。

Remark: 關于 ICE Connectivity Checks 我們會在后面給出詳細的分析,涉及到了STUN協議。下面會總結出 ICE 相關的 SDP 信息。

SDP 和 Candidate 都是通過信令交換的。如果對方只給了 relay 的 Candidate,例如:

sdpMid: audio, sdpMLineIndex: 0, candidate:150963819 1 udp 41885439 182.92.80.26 51542 typ relay raddr 42.120.74.91 rport 56380

這種情況下,肯定最后連通的 CandidatePair 是 Relay 對 Relay,如下圖所示:

WebRTC中SDP是怎樣的

WebRTC中SDP是怎樣的

從這個圖中能看出來這個傳輸通道的發送和接收碼率、包的個數、RTT 和丟包率等信息。

實際上,由于我們這個客戶端還有 host 類型的 Candidate,所以它會嘗試直接用 host 的這個 Candidate 和對方的 relay 直接連接:

sdpMid: audio, sdpMLineIndex: 0, candidate:2213672593 1 udp 2122260223 30.2.228.19 51068 typ host

Statistics Conn-audio-1-1
googActiveConnection	false

WebRTC中SDP是怎樣的

當然,由于沒有連通所以這個 CandidatePair 就不可用。

Remark: WebRTC 是具備在多個 Candidate 之間切換的能力的,具體在 ICE Connectivity Checks 中我們再分析。

上面的 Candidates 自己生成了 2 個 Relay 的 Candidates,一個是 audio 的一個是 video 的,為何只用到了audio 的呢?這就是下面的 BUNDLE 涉及的了。

Bundle and RTCP-MUX

傳輸時,可以復用媒體通道,一種是音頻和視頻的復用,一種是 RTCP 和 RTP 的復用。

RTCP 和 RTP 復用,表示 Sender 使用一個傳輸通道(單一端口)發送 RTP 和 RTCP:

m=audio 9 UDP/TLS/RTP/SAVPF 111 103 104 9 0 8 106 105 13 110 112 113 126
a=rtcp-mux

m=video 9 UDP/TLS/RTP/SAVPF 96 97 98 99 100 101 102 123 127 122 125 107 108 109 124
a=rtcp-mux

此時,Receiver 必須準備好在 RTP 端口上接收 RTCP 數據,并需要預留一些資源,比如 RTCP 帶寬。

音頻和視頻復用時,最后只會用一個 Candidate 傳輸,比如客戶端自己的 SDP Offer,和兩個 relay 的Candidates:

a=group:BUNDLE audio video

m=audio 9 UDP/TLS/RTP/SAVPF 111 103 104 9 0 8 106 105 13 110 112 113 126
a=mid:audio

m=video 9 UDP/TLS/RTP/SAVPF 96 97 98 99 100 101 102 123 127 122 125 107 108 109 124
a=mid:video
sdpMid: video, sdpMLineIndex: 1, candidate:150963819 1 udp 41885439 182.92.80.26 54400 typ relay raddr 42.120.74.91 rport 37714
sdpMid: audio, sdpMLineIndex: 0, candidate:150963819 1 udp 41885439 182.92.80.26 59241 typ relay raddr 42.120.74.91 rport 49618

這表示最終 audio 和 video 盡管可能有獨立的 Candidate,但是如果對方也是 BUNDLE,那么最終只會用一個 Candidate。例如,如果對方的 Answer 是:

a=group:BUNDLE audio video

m=audio 9 UDP/TLS/RTP/SAVPF 111 103 104 9 0 8 106 105 13 110 112 113 126
a=mid:audio

m=video 9 UDP/TLS/RTP/SAVPF 96 97 98 99 100 101 102 123 127 122 125 107 108 109 124
a=mid:video
sdpMid: audio, sdpMLineIndex: 0, candidate:150963819 1 udp 41885439 182.92.80.26 51542 typ relay raddr 42.120.74.91 rport 56380

最后它們只會用一個 Candidate 傳輸。如下圖所示:

WebRTC中SDP是怎樣的

rtcp-mux 將 RTP 和 RTCP 復用到單一的端口進行傳輸,這簡化了 NAT traversal,而 BUNDLE 又將多路媒體流復用到同一端口進行傳輸,這不僅使 candidate harvesting 等 ICE 相關的 SDP 屬性變得簡單,而且又進一步簡化了 NAT traversal。

rtcp-mux 是與 RTC 傳輸相關的重要的 SDP 屬性,關于它的 SDP 協商的原則如下:

  1. 如果 Offer 攜帶 rtcp-mux 屬性,并且 Answer 方希望復用 RTP 和 RTCP 到單一端口,那么 Answer 必須也要攜帶該屬性。

  2. 如果 Offer 沒有攜帶 rtcp-mux 屬性,那么 Answer 也一定不能攜帶 rtcp-mux 屬性,而且 Answer 方禁止 RTP 和 RTCP 復用單一端口。

  3. rtcp-mux 的協商和使用必須是雙向的。

舉個例子。客戶端去訂閱服務器的流,客戶端的 Offer 沒有攜帶 rtcp-mux 屬性,那么服務器會認為客戶端不支持 rtcp-mux,也不會走 rtcp 復用的流程。相反,服務器會分別創建 RTP 和 RTCP 兩個傳輸通道,只有當兩個通道的 ICE 和 DTLS 都成功,才會認為本次訂閱的傳輸通道建立成功,繼而向客戶端發流。

試想,如果因為你的疏忽導致 Offer 漏掉了 rtcp-mux 屬性,那么你將永遠等不到服務器 Ready 的那一天。所以,SDP 看似只是一些文本,很簡單,但是只有在項目的實戰中,多遇到幾個坑,才能更深切的體會到 SDP 屬性的含義以及這些屬性是如何在 RTC 場景中去發揮作用的。

Remark: 關于 rtcp-mux 更詳細的協商細節請參考 RFC 8035。

Remark: 關于 rtcp-mux 場景下如何通過頭部字段區分 rtp 和 rtcp,請參考 RFC 5761。

ICE Connectivity

這里我們只說明 SDP 中和 ICE Connectivity Checks 相關的信息,具體的過程我們會在其他文章中單獨分析。

SDP 中和 ICE 相關的信息包括:

m=audio 9 UDP/TLS/RTP/SAVPF 111 103 104 9 0 8 106 105 13 110 112 113 126
a=ice-ufrag:kce9
a=ice-pwd:M31WxfrwmrFvPws4+tPdbsCE
a=ice-options:trickle

m=video 9 UDP/TLS/RTP/SAVPF 96 97 98 99 100 101 102 123 127 122 125 107 108 109 124
a=ice-ufrag:kce9
a=ice-pwd:M31WxfrwmrFvPws4+tPdbsCE
a=ice-options:trickle

ufrag 和 pwd 就是 ICE short-term 認證算法用到的用戶名和密碼。而 trickle 說明 SDP 中沒有包含 candidate 信息,Candidate 是通過信令單獨交換的,這樣可以做到 Connectivity checks 和 Candidate harvesting 并行處理,提高會話建立的速度。

DTLS

這里我們只說明 SDP 中關于 DTLS 的信息,具體的 DTLS 握手過程會在 DTLS 相關的技術文章中單獨分析。

SDP 中和 DTLS 相關的信息包括:

m=audio 9 UDP/TLS/RTP/SAVPF 111 103 104 9 0 8 106 105 13 110 112 113 126B0:A2:B3:AB:0B:A3:44:22:B1:C8:69:52:ED:04:E8:5A:A4:C3:7A:A6:55:F3:BA:76:62:26:4B:F7:9F:DD:F1:BD
a=setup:actpass

m=video 9 UDP/TLS/RTP/SAVPF 96 97 98 99 100 101 102 123 127 122 125 107 108 109 124
a=fingerprint:sha-256 B0:A2:B3:AB:0B:A3:44:22:B1:C8:69:52:ED:04:E8:5A:A4:C3:7A:A6:55:F3:BA:76:62:26:4B:F7:9F:DD:F1:BD
a=setup:actpass

其中 fingerprint 是 DTLS 過程中的 Certificate 證書的簽名,防止客戶端和服務器的證書被篡改。

另外,setup 指的是 DTLS 的角色,也就是誰是 DTLS Client(active),誰是 DTLS Server(passive),如果自己兩個都可以那就是 actpass。這里我們是 actpass,那么就要由對方在 Answer 中確定最終的 DTLS 角色:

m=audio 9 UDP/TLS/RTP/SAVPF 111 103 104 9 0 8 106 105 13 110 112 113 126
a=fingerprint:sha-256 B1:FD:D6:2D:94:4E:33:A1:8C:9D:EF:ED:EB:AC:CC:2D:E2:37:15:9B:24:8C:BF:F2:7D:6A:B3:81:23:AA:13:54
a=setup:active

對方是 active,也就是 DTLS Client,那么自己就只能是 DTLS Server,會由對方發起 DTLS ClientHello 開始DTLS 過程。

Stream Direction

媒體流的方向有四種,分別是 sendonly、recvonly、sendrecv、inactive,它們既可以出現在會話級別描述中也可以出現在媒體級別的描述中。

  • sendonly 表示只發送數據,比如客戶端推流到 SFU,那么會在自己的 Offer(or Answer) 中攜帶 senonly 屬性

  • revonly 表示只接收數據,比如客戶端向 SFU 訂閱流,那么會在自己的 Offer(or Answer) 中攜帶 recvonly 屬性

  • sendrecv 表示可以雙向傳輸,比如客戶端加入到視頻會議中,既要發布自己的流又要訂閱別人的流,那么就需要在自己的 Offer(or Answer) 中攜帶 sendrecv 屬性

  • inactive 表示禁止發送數據,比如在基于 RTP 的視頻會議中,主持人暫時禁掉用戶 A 的語音,那么用戶 A 的關于音頻的媒體級別描述應該攜帶 inactive 屬性,表示不能再發送音頻數據。

NOTE: RFC 4566: senonly 和 recvonly 屬性僅應用于媒體,不用于媒體控制相關的協議。比如在基于 RTP 的媒體會話中,即使是 recvonly 模式,也仍然要發送 RTCP 包,即使是 senonly 模式,也依然會接收并正常處理 RTCP 包。

媒體流方向的四個屬性很重要,在組裝 SDP 時要仔細校驗,保證流方向的正確性。

舉個例子,客戶端去訂閱服務器的流。如果此時客戶端的 Offer 攜帶的屬性并不是 recvonly 而是 sendonly,那么即使在信令層面的確是訂閱的語義,但是由于某些服務器對 SDP 各屬性的校驗是十分全面和嚴格的(本該如此),這種場景下,服務器將不會發送媒體流到客戶端,而且服務器回復的 Answer 可能根本不會攜帶 SSRC。

RTCP Feedback

下面,我們聊一下 rtcp-fb 這個媒體級別的 SDP 屬性,它能告訴我們媒體會話能夠對哪些 RTCP 消息進行反饋,是一個和 QoS 相關的重要的 SDP 屬性。

m=video 9 UDP/TLS/RTP/SAVPF 96
a=mid:video
a=rtpmap:96 VP8/90000
a=rtcp-fb:96 transport-cc
a=rtcp-fb:96 ccm fir
a=rtcp-fb:96 nack pli

如上 SDP 信息,這是一個視頻的 M 描述,VP8 編碼,payload type 是 96。最后的 3 個 rtcp-fb 屬性則說明了對于 96 這個 media codec 來講,在網絡擁塞控制方面支持 twcc;在 ARQ 方面支持 nack 處理,能夠重傳丟失的 RTP 包;在關鍵幀方面支持 fir 和 pli 處理,有能力進行關鍵幀的發送。

在做 SIP 的時候,遇到過一個坑:向某臺型號的 SIP 設備發送 PLI 請求后,并沒有收到關鍵幀,經過一番折騰,最后發現,這臺設備的 rtcp-fb 描述如下:

m=video 16402 RTP/AVP  34
a=rtpmap:34 H263/90000
a=fmtp:34 CIF4=1;CIF=1;QCIF=1;SQCIF=1
a=sendrecv
a=rtcp-fb:* ccm tmmbr
a=rtcp-fb:* ccm fir

也就是說這臺設備只支持 FIR 請求,沒有處理 PLI 請求的能力(PS: 為什么沒能早一些檢查 SDP 的 rtcp 反饋能力,淚目)。在此也想著重強調一下:對于一些很專業嚴謹的系統或者設備而言,SDP 完全體現了它們所擁有的能力,也可以讓我們發現其不具備的能力。SDP 的每一個屬性都是有其存在意義的,萬萬不可忽略。

Note: rtcp-fb 不能用于會話級別的描述中,只能用于媒體級別的描述,而且其 M 描述的 proto 字段一定要指定 AVPF。

Note: 存在這種格式,a=rtcp-fb:* ccm fir,星號是一個通配符,表示該 M 描述下的所有類型的 media codec 都支持 fir 的處理和關鍵幀的反饋。

Compare with SIP SDP

RTC 場景與 SIP 場景下的 SDP 描述的不同表現在傳輸、媒體、信令三個層面。

Transmission Level
  1. 建連流程。RTC 場景下的音視頻媒體流建連流程一般是 ICE + DTLS,而 SIP 場景下沒有這套建連流程,所以也沒有 ICE/DTLS 相關的 SDP 屬性,比如 ufrag、pwd、setup、fingerprint 等。

  2. 端口復用。RTC 場景下一般都是音視頻流以及 RTP/RTCP 復用單一端口,通過 SSRC 區分每一路流,通過數據包的頭部字段值來區分 RTP/RTCP,而 SIP 場景下不會復用端口,因此沒有 rtcp-mux 屬性,也沒有 grouping 相關的屬性,比如 BUNDLE,且音視頻的 RTP 和 RTCP 都是獨立端口進行傳輸,共有四個,所以天然可以使用端口來區分流以及 RTP/RTCP,因此也沒有 SSRC 屬性。

  3. 鏈路探測。RTC 場景下一般通過 ICE 的 STUN 探測環節來發現對端經過 NAT 映射之后的出口地址,稱為 srflx,而 SIP 場景下需要自己實現對端地址發現的功能,以獲取到 SIP 設備經過 NAT 映射之后的出口地址。

  4. 地址信息。RTC 場景下通過 SDP 的 candidate 交換對端地址信息,SIP 場景下通過 C line 的 ip 以及 M line 的端口來交換對端地址信息。

// RTC 場景
a=candidate:1 1 udp 2013266431 30.27.136.138 14306 typ host

// SIP 場景
c=IN IP4 30.41.5.131
m=audio 2352 RTP/AVP 107 108 114 104 105 9 18 8 0 101 123
m=video 2374 RTP/AVP 97 126 96 34 123
Media Level
  1. 屏幕共享。SIP 場景下通過 BFCP 協議來進行屏幕共享的協商,通過 a=content 屬性來區分主流(main)和共享流 (slides),而 RTC 場景下通過外部/業務信令來進行屏幕共享的協商,主流和共享流的 SDP 描述一致,不會區分。

  2. Media Codec。目前,RTC 場景下的音視頻編碼普遍是 Opus + H.264/VP8,SIP 場景下,對于音頻編碼,有很多 SIP 設備并不支持 Opus,而采用比較古老的音頻編碼,比如 G722、PCMA、PCMU,對于視頻編碼,普遍支持 H.264,一般不支持 VP8。

Signaling Level
  1. SDP 交換。都是 Offer/Answer 模型,RTC 場景下主要通過 HTTP/TCP 協議交換 SDP,一般是在 HTTP body 中攜帶 SDP 信息。SIP 場景下可以通過 UDP/TCP/TLS 協議交換 SDP,在 INVITE 和 200 OK 中攜帶 SDP 信息。

Summary

其實,SDP 文本化的協議格式本身很簡單,其難點在于不同的應用場景(比如傳統 SIP 視頻會議或者 RTC 場景)下擴展出的紛繁復雜的屬性及其含義,這些 SDP 屬性散落在眾多的 RFC 以及草案之中,不下一定的功夫是很難做到全面理解與掌握的(PS:每當說到此處,心里總是一萬個馬奔騰,WebRTC 的 RFC 太多了而且互相關聯互相引用,看完這些 RFC 要準備好視力下降 0.2 度)。

關于WebRTC中SDP是怎樣的問題的解答就分享到這里了,希望以上內容可以對大家有一定的幫助,如果你還有很多疑惑沒有解開,可以關注億速云行業資訊頻道了解更多相關知識。

向AI問一下細節

免責聲明:本站發布的內容(圖片、視頻和文字)以原創、轉載和分享為主,文章觀點不代表本網站立場,如果涉及侵權請聯系站長郵箱:is@yisu.com進行舉報,并提供相關證據,一經查實,將立刻刪除涉嫌侵權內容。

AI

永春县| 昭通市| 土默特左旗| 固安县| 炉霍县| 耿马| 保定市| 霍山县| 嵊泗县| 扬中市| 新干县| 铜陵市| SHOW| 拉孜县| 五华县| 抚远县| 司法| 东安县| 石家庄市| 巨野县| 红桥区| 霞浦县| 平罗县| 桐乡市| 平塘县| 略阳县| 武邑县| 嵊州市| 尤溪县| 清远市| 鱼台县| 清水河县| 东丰县| 娱乐| 南华县| 潞西市| 阳西县| 泰和县| 遵化市| 太白县| 仙居县|