SlideShare une entreprise Scribd logo
1  sur  77
Télécharger pour lire hors ligne
インターネットの経路あれこれ
JANOG28
NTT Communications
益子 直樹
吉村 知夏
1
自己紹介
OCN 
益子
吉村
2
自己紹介
OCN 
益子
吉村
運用
開発
2
本日のゴール
•BGP運用における悩みを
共有させてください
•よりよい運用への議論を
したい
3
Facebookアンケート
4
Facebookアンケート
4
Facebookアンケート
『お仕事や学校でBGPを使う機
会はどれくらいありますか?』
4
Facebookアンケート
『お仕事や学校でBGPを使う機
会はどれくらいありますか?』
•もっとBGPを知りたいでござる:46votes
•AS運用/設計者:29votes
•良く使います!:21votes
•知ってはいるけどあんまり使わないかなぁ
:14votes
•不良になる:5votes
•男は黙ってIGP:4votes
•Static教:4votes
•なんの略でしたっけ?:1votes
計163votes。たくさんのご回答ありがとうございました
4
ISPの悩み
•トラヒックの増加
•経路のいろいろ
@JANOG27
5
ISPの悩み
•トラヒックの増加
•経路のいろいろ
Today s Focus!
@JANOG27
5
お題 2つ
•経路数増大とその対処法
•異常経路とその対処法
•(番外編)東日本大震災による経路変動
6
経路数増大
7
370000:10%
6400:60%
8
BGP経路数(IPv4)
データ引用 http://bgp.potaroo.net
現在37000超
このままの伸びで推移するのではないか?
0
100000
200000
300000
400000
1994/1/10:20
1995/1/10:28
1996/1/10:35
1997/1/10:10
1998/3/10:35
1999/3/10:35
2000/3/10:35
2001/5/11:20
2002/5/11:30
2003/5/10:23
2004/6/10:03
2005/5/10:09
2006/5/11:20
2007/5/11:09
2008/6/10:05
2009/6/11:40
2010/6/11:40
2011/6/11:40
-20%
-15%
-10%
-5%
0%
5%
10%
15%
20%
BGP entries(IPv4)
Prefix counts
growth ratio per month
9
BGP経路数(IPv6)
データ引用 http://bgp.potaroo.net
現在6400超
2008年頃から急激な立ち上がり
0
1400
2800
4200
5600
7000
2003/7/11:12
2004/7/10:55
2005/7/10:15
2006/7/11:54
2007/7/10:06
2008/6/10:48
2009/7/11:40
2010/7/11:40
2011/7/11:40
-30%
-20%
-10%
0%
10%
20%
30%
BGP entries(IPv6)
Prefix counts
growth ratio per month
10
伸び率の比較
データ引用 http://bgp.potaroo.net
昨今の経路数増も大きいが、伸び率が増している為、要注意。
IPv6はムーア曲線を超える成長
-15
-10
-5
0
5
10
15
2003/7/11:12
2004/1/11:09
2004/7/10:55
2005/1/11:24
2005/7/10:15
2006/1/11:24
2006/7/11:54
2007/1/11:09
2007/7/10:06
2008/1/11:04
2008/6/10:48
2008/12/10:46
2009/7/11:40
2010/1/11:40
2010/7/11:40
2011/1/11:40
2011/7/11:40
Comparison of growth ratio(IPv4/IPv6/moore curve)
Growth ratio(IPv4)
Growth ratio(IPv6)
Moore Curve
11
マスク長分布(IPv4)
データ引用 http://bgp.potaroo.net
/24が半分を占める
/24
5
10
15
20
12
マスク長分布(IPv4)
データ引用 http://bgp.potaroo.net
/24以外にも/19∼/22の経路の伸びが多い
/10、/11、/12の大きい空間も伸びている
/24
/11
/10
/12
5
10
15
20
13
マスク長分布(IPv6)
データ引用 http://bgp.potaroo.net
/32が50%、/48が35%で占めている
/32
/48
14
マスク長分布(IPv6)
データ引用 http://bgp.potaroo.net/48の伸びが目覚ましい
/36,/40も伸びつつある
/32
/48
/40
/36
15
傾向まとめ
•IPv4は現状の伸びを維持
•IPv6は経路数こそ少ない
ものの伸び率に要注意
16
経路数増大
で
何が問題か?
17
1. 転送テーブル(FIB)の限界到達
 → 限界に達すると、経路追加が出来なくなるなど
 → 正常にパケット転送ができなくなる
  (通信障害が発生する)
2. 経路収束時間の長時間化
  → ベストパスの切り替わりに時間がかかる
経路が増えて困ること
18
FIB使用率の実際
• OCNのとあるフルルート保持ルータのFIB
メモリ使用率
コア
エッジ1、2
コア
エッジ 3
ピアリングISP
お客様
網内装置
19
FIBの限界
•最近のコアルータは100万経路くらい
•各ルータのFIB容量(2009年当時)
出典:IRS21 『Prefix増大とルータのリソース問題』
さくらインターネット研究所 大久保修一さん
20
コンバージェンスの実際
出典:IRS21 『Prefix増大とルータのリソース問題』
さくらインターネット研究所 大久保修一さん
21
コンバージェンスの実際
•OCNのとあるフルルート保持ルータのコ
ンバージェンス時間
BGP経路
(v4)
MED200
BGP経路(v4)
MED100
→Peer切断
ルータA ルータB
試験対象ルータ
The Internet
150万くらいから
経路インストールNG
経路数とコンバー
ジェンス時間は比例
秒数
22
1. 転送テーブル(FIB)の限界到達
- 保持経路を削減する
- より高スペックのルータに更改する 
2. 経路収束時間の長時間化
- 短縮技術を使う
- 保持経路を削減する
- より高スペックのルータに更改する
課題への対策
23
•デフォルトルートのみで良い構成も
ある
- 配下にBGPフルルートのお客様が居ない、など
- トラヒックはコアに集まりやすい
•フルルートを持ちたい場合
- BGPフルルートのお客様
- より最適なルーティング(closest exit)
フルルートの必要性
OCNは
こちら
24
で、どうしているか…
• フルルート数増加
• メモリ使用率上昇(グラフとにらめっこ☹)
• やりたくないけど経路削減(トラブルの元)
• EOL等を契機に高スペックルータへリプレ
イス&再フルルート化(やった☻)
•OCNでは、メモリ容量が逼迫したルータは
更改や経路削減をしています。
25
やりくり
高
中
低
メモリ使用率
通常時
エッジ エッジ
集約
コア
集約
コア
ピアリングISP
お客様
網内装置
26
やりくり
経路増
エッジ エッジ
集約
コア
集約
コア
ピアリングISP
お客様
網内装置
高
中
低
メモリ使用率
27
やりくり
経路間引き
経路間引き完了
とりあえず延命 高
中
低
メモリ使用率
エッジ エッジ
集約
コア
集約
コア
ピアリングISP
お客様
網内装置
28
やりくり
経路間引き
でも・・・
今度はフルルートが
必要なエッジルータが・・・
リプレースするしかない!!
高
中
低
メモリ使用率
エッジ エッジ
集約
コア
集約
コア
ピアリングISP
お客様
網内装置
29
やりくり
リプレース祭り
コア コア
集約 集約
リプレース
リプレース
リプレース
新 新
高
中
低
メモリ使用率
エッジ エッジ
集約
コア
集約
コア
ピアリングISP
お客様
網内装置
30
経路削減
•経路削減区間でRoutingの不一致が
発生する場合も
•下手すると網内でピンポン発生
(泣)
•しかも忘れた頃にトラブルの引き金
となる
31
例えばこんな環境で・・・
集約
コア
集約
コア
集約 集約
Area 0
Area 1
網内接続
網内BGP
接続
エッジ
α
ACT
エッジ
②BGP経路を参照し結
果エッジαのLoopBack
に対し(上位へ)転送
SBY
エッジ
①デフォルトルート
を参照して上位Router
へ転送
BGPありRouter
BGPなしRouter
32
例えばこんな環境で・・・
集約
コア
集約
コア
集約 集約
Area 0
Area 1
網内接続
網内BGP
接続
エッジ
α
ACT
エッジ
②BGP経路を参照し結
果エッジαのLoopBack
に対し(上位へ)転送
SBY
エッジ
①デフォルトルート
を参照して上位Router
へ転送
BGPありRouter
BGPなしRouter
32
集約ルータ マイグレーション
集約 集約 集約 集約
Area 0
Area 1
網内接続
網内BGP
接続
エッジ
α
ACT
エッジ
SBY
エッジ
④まずはStandby
エッジを別集約へ
移設
③この集約がEOLで
配下を移設したい!!
BGPありRouter
BGPなしRouterコア コア
33
集約ルータ マイグレーション
集約 集約 集約 集約
Area 0
Area 1
網内接続
網内BGP
接続
エッジ
α
ACT
エッジ
SBY
エッジ
④まずはStandby
エッジを別集約へ
移設
③この集約がEOLで
配下を移設したい!!
BGPありRouter
BGPなしRouterコア コア
33
集約ルータ マイグレーション
集約 集約 集約 集約
Area 0
Area 1
網内接続
網内BGP
接続
エッジ
α
ACT
エッジ
SBY
エッジ
④まずはStandby
エッジを別集約へ
移設
③この集約がEOLで
配下を移設したい!!
BGPありRouter
BGPなしRouterコア コア
33
Area 0
Area 1
網内接続
網内BGP
接続
するとピンポンが発生!!
BGPありRouter
BGPなしRouter
エッジ
α
ACT
エッジ
SBY
エッジ
⑤構成変更とは関係なく
デフォルトルート
を参照して上位Router
へ転送を続ける
集約
コア
集約 集約 集約
コア
⑥エッジαのLoopBack
へが同じArea1から見える
ようになる為、Shortest
パスがACTエッジとなり
下向きへ転送=>ループ
網内接続
網内BGP
接続
34
Area 0
Area 1
網内接続
網内BGP
接続
するとピンポンが発生!!
BGPありRouter
BGPなしRouter
エッジ
α
ACT
エッジ
SBY
エッジ
⑤構成変更とは関係なく
デフォルトルート
を参照して上位Router
へ転送を続ける
集約
コア
集約 集約 集約
コア
⑥エッジαのLoopBack
へが同じArea1から見える
ようになる為、Shortest
パスがACTエッジとなり
下向きへ転送=>ループ
網内接続
網内BGP
接続
34
もしBGP経路を持っていたら
集約 集約 集約 集約
Area 0
Area 1
網内接続
網内BGP
接続
BGPありRouter
BGPなしRouter
エッジ
α
BGP経路を参照しエッジα
のLoopBackを解決。
同一エリアなので上位では
なく渡りに転送
SBY
エッジ
ACT
エッジ
コア コア
35
もしBGP経路を持っていたら
集約 集約 集約 集約
Area 0
Area 1
網内接続
網内BGP
接続
BGPありRouter
BGPなしRouter
エッジ
α
BGP経路を参照しエッジα
のLoopBackを解決。
同一エリアなので上位では
なく渡りに転送
SBY
エッジ
ACT
エッジ
コア コア
35
安易にやると…
フルルート保持フルルート保持
フルルート保持フルルート保持
The Internet
POP2
POP1
POP3
Default保持Default保持 Default保持Default保持
• POP4→POP2(のインターネット)へ到達したい
(1) Default経路にしたがってPOP1へ
(2) POP1はフルルートにしたがって
POP2へ
Default保持 Default保持
POP4
36
安易にやると…
フルルート保持フルルート保持
フルルート保持フルルート保持
The Internet
POP2
POP1
POP3
Default保持Default保持 Default保持Default保持
• POP4→POP2(のインターネット)へ到達したい
(1) Default経路にしたがってPOP1へ
(2) POP1はフルルートにしたがって
POP2へ
Default保持 Default保持
POP4
36
フルルート保持フルルート保持
The Internet
POP2
POP1
POP4
Default保持Default保持 Default保持Default保持
• POP4→POP2(のインターネット)へ到達したい
Default保持 Default保持
安易にやると…
POP3
フルルート保持フルルート保持
37
フルルート保持フルルート保持
The Internet
POP2
POP1
POP4
Default保持Default保持 Default保持Default保持
• POP4→POP2(のインターネット)へ到達したい
Default保持 Default保持
(1) 切断!
安易にやると…
POP3
フルルート保持フルルート保持
37
フルルート保持フルルート保持
The Internet
POP2
POP1
POP4
Default保持Default保持 Default保持Default保持
• POP4→POP2(のインターネット)へ到達したい
Default保持 Default保持
(2) Default経路にしたがってPOP1へ
(3) POP1はPOP3へ
(4) POP3はPOP1へ → loop発生
(1) 切断!
安易にやると…
POP3
フルルート保持フルルート保持
37
フルルート保持フルルート保持
The Internet
POP2
POP1
POP4
Default保持Default保持 Default保持Default保持
• POP4→POP2(のインターネット)へ到達したい
Default保持 Default保持
(2) Default経路にしたがってPOP1へ
(3) POP1はPOP3へ
(4) POP3はPOP1へ → loop発生
(1) 切断!
安易にやると…
POP3
フルルート保持フルルート保持
37
皆様どうしていますか?
•フルルート全部保持
•限定的に保持
•基本持たない
装置コスト 経路収束時間 運用性
38
皆様どうしていますか?
•フルルート全部保持
•限定的に保持
•基本持たない
装置コスト 経路収束時間 運用性
38
皆様どうしていますか?
•フルルート全部保持
•限定的に保持
•基本持たない
装置コスト 経路収束時間 運用性
☹
☻
☹
☻ ☹
☻
38
質問タイム
39
異常経路
40
異常経路
•過去の事例
•検知
•予防と対策
41
過去の事例
•不正Attribute
2009/1/26
BGP Session Teardown due to
AS_CONFED_SEQUENCE in AS4_PATH
2009/2/17 very long as paths
2009/8/18
AS4PATH AS0
(invalid or corrupt AS path) 3 bytes E01100
42
検知
• 基本はBGP PeerDownが大量発生し
て大騒ぎ☹
• 収束させるためには経路の保存を日頃
から行い解析できるようにしておく
• 検知してからどうするかは、ケースバ
イケース。
43
予防: 経路フィルタ
自分のAS相手のAS
相手の子AS
AS-A
相手の子AS
AS-B
eBGPルータ
•一般的な経路フィルタの方法
44
予防: 経路フィルタ
自分のAS相手のAS
相手の子AS
AS-A
相手の子AS
AS-B
(1) Max-prefixフィルタ
受信prefix数の最大値を決定(国内Peerだと数千)
eBGPルータ
•一般的な経路フィルタの方法
44
予防: 経路フィルタ
自分のAS相手のAS
相手の子AS
AS-A
相手の子AS
AS-B
(1) Max-prefixフィルタ
受信prefix数の最大値を決定(国内Peerだと数千)
(2) prefixフィルタ
受信prefixの内容を決定(1.0.0.0/8は受信する、
とか)
eBGPルータ
•一般的な経路フィルタの方法
44
予防: 経路フィルタ
自分のAS相手のAS
相手の子AS
AS-A
相手の子AS
AS-B
(1) Max-prefixフィルタ
受信prefix数の最大値を決定(国内Peerだと数千)
(2) prefixフィルタ
受信prefixの内容を決定(1.0.0.0/8は受信する、
とか)
(3) AS-pathフィルタ
特定のASの経路だけ受信or落とす(AS-Aは受信、
AS-Bは拒否、とか)
eBGPルータ
•一般的な経路フィルタの方法
44
予防: 経路フィルタ
自分のAS相手のAS
相手の子AS
AS-A
相手の子AS
AS-B
(1) Max-prefixフィルタ
受信prefix数の最大値を決定(国内Peerだと数千)
(2) prefixフィルタ
受信prefixの内容を決定(1.0.0.0/8は受信する、
とか)
(3) AS-pathフィルタ
特定のASの経路だけ受信or落とす(AS-Aは受信、
AS-Bは拒否、とか)
eBGPルータ
•一般的な経路フィルタの方法
(4) Damping
受信prefixがFlapしたときには一定時間抑制する
44
予防: 経路フィルタ
自分のAS相手のAS
相手の子AS
AS-A
相手の子AS
AS-B
(1) Max-prefixフィルタ
受信prefix数の最大値を決定(国内Peerだと数千)
(2) prefixフィルタ
受信prefixの内容を決定(1.0.0.0/8は受信する、
とか)
(3) AS-pathフィルタ
特定のASの経路だけ受信or落とす(AS-Aは受信、
AS-Bは拒否、とか)
eBGPルータ
•一般的な経路フィルタの方法
• ただし、セキュリティホールになるような「異常経路」は
BGP Attributeそのものが不正なことが多い
(4) Damping
受信prefixがFlapしたときには一定時間抑制する
44
自分のAS
相手のAS
eBGPルータ
•BGP Attributeフィルタ @JUNOS
- ignore/drop-path-attributes
対向ルータ
予防: 経路フィルタ
45
自分のAS
相手のAS
ignore-path-attributes
• attribute を除いた経路情報を自身の RIB に記録
• 対向ルータ にはattributeが付いたまま送出する。
eBGPルータ
•BGP Attributeフィルタ @JUNOS
- ignore/drop-path-attributes
不正Attribute 不正Attribute
対向ルータ
不正
Attribute
無視
予防: 経路フィルタ
45
自分のAS
相手のAS
ignore-path-attributes
• attribute を除いた経路情報を自身の RIB に記録
• 対向ルータ にはattributeが付いたまま送出する。
eBGPルータ
•BGP Attributeフィルタ @JUNOS
- ignore/drop-path-attributes
不正Attribute 不正Attribute
対向ルータ
不正Attribute
drop-path-attributes
• attribute を除いた経路情報を自身の RIB に記録
• 対向ルータ にもattributeを除いた経路情報を送出する。
不正
Attribute
無視
不正Attribute
削除
予防: 経路フィルタ
45
質問タイム
46
まとめ
47
抱える課題
• 経路数の増加
- 最適な構成は利用形態により様々
- たぶん今後も経路は増えていく
• 異常経路への対処
• みなさんのネットワークではどう
されていますか? 48
番外編
大震災による経路変動
49
(番外編)
大震災による経路変動
•①経路って変動したの?
•②地震のあとって・・・
50
震災時の経路数
数%の減少
51
震災時の経路喪失数分布
52
②UPDATEを地震直後
ではなく数日後に多数観測
震災時のUPDATE
53
おわり
・ご清聴ありがとうございました
・続きは懇親会で!!
54

Contenu connexe

En vedette

En vedette (7)

APRICOT2016 JANOG Update 2016
APRICOT2016 JANOG Update 2016APRICOT2016 JANOG Update 2016
APRICOT2016 JANOG Update 2016
 
JANOG29 - ISP Hot Topics 2011
JANOG29 - ISP Hot Topics 2011JANOG29 - ISP Hot Topics 2011
JANOG29 - ISP Hot Topics 2011
 
Kixs vol.001 よろず相談会「ネットワーク構成図とVLANを5分で語る」
Kixs vol.001 よろず相談会「ネットワーク構成図とVLANを5分で語る」Kixs vol.001 よろず相談会「ネットワーク構成図とVLANを5分で語る」
Kixs vol.001 よろず相談会「ネットワーク構成図とVLANを5分で語る」
 
[BGP Meeting]本気のピアリング-真剣に考えても深刻になるな-
[BGP Meeting]本気のピアリング-真剣に考えても深刻になるな-[BGP Meeting]本気のピアリング-真剣に考えても深刻になるな-
[BGP Meeting]本気のピアリング-真剣に考えても深刻になるな-
 
【Interop Tokyo 2016】 東京大学におけるジュニパーネットワークス機器の導入
【Interop Tokyo 2016】 東京大学におけるジュニパーネットワークス機器の導入【Interop Tokyo 2016】 東京大学におけるジュニパーネットワークス機器の導入
【Interop Tokyo 2016】 東京大学におけるジュニパーネットワークス機器の導入
 
できるBGP! IHANet Meeting 11@うどん県(小豆島)でVyOSでpeerしてみた~初心者向け~
できるBGP! IHANet Meeting 11@うどん県(小豆島)でVyOSでpeerしてみた~初心者向け~できるBGP! IHANet Meeting 11@うどん県(小豆島)でVyOSでpeerしてみた~初心者向け~
できるBGP! IHANet Meeting 11@うどん県(小豆島)でVyOSでpeerしてみた~初心者向け~
 
ネットワークスイッチ構築実践 1.VLAN・LinkAggregation編
ネットワークスイッチ構築実践 1.VLAN・LinkAggregation編ネットワークスイッチ構築実践 1.VLAN・LinkAggregation編
ネットワークスイッチ構築実践 1.VLAN・LinkAggregation編
 

Plus de Chika Yoshimura (8)

JANOG32 - 運用チームの作り方
JANOG32 - 運用チームの作り方JANOG32 - 運用チームの作り方
JANOG32 - 運用チームの作り方
 
NANOG52 - OCN Experience to Handle the Internet Growth and the Future
NANOG52 - OCN Experience to Handle the Internet Growth and the FutureNANOG52 - OCN Experience to Handle the Internet Growth and the Future
NANOG52 - OCN Experience to Handle the Internet Growth and the Future
 
NANOG32 - DNS Anomalies and Their Impacts on DNS Cache Servers
NANOG32 - DNS Anomalies and Their Impacts on DNS Cache ServersNANOG32 - DNS Anomalies and Their Impacts on DNS Cache Servers
NANOG32 - DNS Anomalies and Their Impacts on DNS Cache Servers
 
JANOG24 - DNS prefetchの影響(ライトニングトーク)
JANOG24 - DNS prefetchの影響(ライトニングトーク)JANOG24 - DNS prefetchの影響(ライトニングトーク)
JANOG24 - DNS prefetchの影響(ライトニングトーク)
 
Internet Week 2006 - DNS Day - AS112 Report
Internet Week 2006 - DNS Day - AS112 ReportInternet Week 2006 - DNS Day - AS112 Report
Internet Week 2006 - DNS Day - AS112 Report
 
JANOG 15 - DNS 512bytesの壁 OCN DNSトラヒック分析より
JANOG 15 - DNS 512bytesの壁 OCN DNSトラヒック分析よりJANOG 15 - DNS 512bytesの壁 OCN DNSトラヒック分析より
JANOG 15 - DNS 512bytesの壁 OCN DNSトラヒック分析より
 
APRICOT 2011 - OCN Experience to Handle the Traffic Growth and the Future
APRICOT 2011 - OCN Experience to Handle the Traffic Growth and the FutureAPRICOT 2011 - OCN Experience to Handle the Traffic Growth and the Future
APRICOT 2011 - OCN Experience to Handle the Traffic Growth and the Future
 
APRICOT 2014 NOG Reports (JANOG)
APRICOT 2014 NOG Reports (JANOG)APRICOT 2014 NOG Reports (JANOG)
APRICOT 2014 NOG Reports (JANOG)
 

JANOG28 - インターネットの経路あれこれ