27. サポートプラットフォーム
v7.2.3
Vertica Client Drivers
– ADO.NET Driver(Windows)
– 前提ソフトウェア
– .NET Framework 3.5 SP1 以降
– Windows 7, 8, 10 (32 & 64 bit)
– Windows Server 2008, 2008 R2 (32 bit)
– Windows Server 2008, 2008 R2, 2012, 2012 R2 (64 bit)
– JDBC Driver(All platform)
– Java 5 以降
– ODBC Driver(Windows)
– 前提Driver Manager
– Microsoft ODBC MDAC 2.8
– Windows 7, 8, 10 (32 & 64 bit)
– Windows Server 2008, 2008 R2 (32 bit)
– Windows Server 2008, 2008 R2, 2012, 2012 R2 (64 bit)
– ODBC Driver(Linux/Unix/Mac OS)
– 前提Driver Manager
– iODBC 3.52.6 以降
– unixODBC 2.3.0 以降
– DataDirect 5.3, 6.1 以降
– RHEL/CentOS 6.x, 7.x
– SUSE 11.x
– Oracle Enterprise Linux 6.x
– Ubuntu 12.04 LTS, 14.04 LTS
– AIX 5.3, 6.1
– HP-UX 11i V3
– Solaris 10
– Mac OS X 10.7, 10.8, 10.9
30
28. サポートプラットフォーム
v8.0.0 追加変更分
Vertica Client Drivers
– ADO.NET Driver(Windows)
– 前提ソフトウェア
– .NET Framework 3.5 SP1 以降
– Windows 7, 8, 10 (32 & 64 bit)
– Windows Server 2008, 2008 R2 (32 bit)
– Windows Server 2008, 2008 R2, 2012, 2012 R2 (64 bit)
– JDBC Driver(All platform)
– Java 5 以降
– ODBC Driver(Windows)
– 前提Driver Manager
– Microsoft ODBC MDAC 2.8
– Windows 7, 8, 10 (32 & 64 bit)
– Windows Server 2008, 2008 R2 (32 bit)
– Windows Server 2008, 2008 R2, 2012, 2012 R2 (64 bit)
– ODBC Driver(Linux/Unix/Mac OS)
– 前提Driver Manager
– iODBC 3.52.6 以降
– unixODBC 2.3.0 以降
– DataDirect 5.3, 6.1 以降
– RHEL/CentOS 6.x, 7.x 6.5, 6.6, 6.7, 7.0
– SUSE 11.x 11.3
– Oracle Enterprise Linux 6.x 6.7
– Ubuntu 12.04 LTS, 14.04 LTS
– AIX 5.3, 6.1
– HP-UX 11i V3
– Solaris 10
– Mac OS X 10.7, 10.8, 10.9, 10.10, 10.11
– FIPS-compliant Red Hat Enterprise Linux 6.6
31
New!
サポートバージョンが絞られた
29. サポートプラットフォーム
v7.2.3
Vertica Client Drivers(つづき)
– vsql Client
– Windows 7, 8.x, 10 (32 & 64 bit)
– Windows Server 2008, 2008 R2, 2012, 2012 R2 (32 & 64 bit)
– RHEL/CentOS 6.x, 7.x
– SUSE 11.x
– Oracle Enterprise Linux 6.x
– Ubuntu 12.04 LTS
– AIX 5.3, 6.1
– HP-UX 11i V3
– Solaris 10
– Mac OS X 10.7, 10.8, 10.9
– クライアントとサーバーの互換性
32
Client Driver Vertica Server
6.1.x 6.1.x, 7.0.x, 7.1.x, 7.2.x
7.0.x 7.0.x, 7.1.x, 7.2.x
7.1.x 7.1.x, 7.2.x
7.2.x 7.2.x
30. サポートプラットフォーム
v8.0.0 追加変更分
Vertica Client Drivers(つづき)
– vsql Client
– Windows 7, 8.x, 10 (32 & 64 bit)
– Windows Server 2008, 2008 R2, 2012, 2012 R2 (32 & 64 bit)
– RHEL/CentOS 6.x, 7.x 6.5, 6.6, 6.7, 7.0
– SUSE 11.x 11.3
– Oracle Enterprise Linux 6.x 6.7
– Ubuntu 12.04 LTS
– AIX 5.3, 6.1
– HP-UX 11i V3
– Solaris 10
– Mac OS X 10.7, 10.8, 10.9, 10.10, 10.11
– FIPS-compliant Red Hat Enterprise Linux 6.6
– クライアントとサーバーの互換性
33
Client Driver Vertica Server
6.1.x 6.1.x, 7.0.x, 7.1.x, 7.2.x, 8.0.x
7.0.x 7.0.x, 7.1.x, 7.2.x, 8.0.x
7.1.x 7.1.x, 7.2.x, 8.0.x
7.2.x 7.2.x, 8.0.x
8.0.x 8.0.x
New!
サポートバージョンが絞られた
サポート対象外となるクライアントドライ
バーのバージョンはなし
31. サポートプラットフォーム
FIPSクライアントサポート
アメリカ国立標準技術研究所 (NIST) が発行している標準規格に準拠したクライアント
– FIPS 140-2 (暗号モジュールのためのセキュリティ要求)に準拠
– Red Hat の暗号化方式を活用
34
Vertica Cluster
on
Red Hat OS
Vertica Client
BI Dashboard
FIPS 140-2
OpenSSL
FIPS(連邦情報処理標準)とは?
連邦情報処理標準[1](れんぽうじょうほうしょりひょうじゅん) または連邦情報
処理規格[2](れんぽうじょうほうしょりきかく)、略称FIPS (Federal Information
Processing Standard(s)) は、アメリカ国立標準技術研究所 (NIST) が発行し
ている標準規格で、軍事以外全ての政府機関及び請負業者による利用を目
的として米国連邦政府が開発した公式発表の情報処理標準規格である。
出展: Wikipedia「連邦情報処理標準」
FIPS準拠を要件とするグローバルカンパニー向けの拡張
New!
33. サポートプラットフォーム
v8.0.0 追加変更分
その他
– Microsoft SQL Server 2016
– SQL Server Analysis Services (SSAS) 2016
– SQL Server Integration Services (SSIS) 2016
– SQL Server Reporting Services (SSRS) 2016
– SQL Server Data Tool BI (SSDT-BI)
− Microsoft Visual Studio 2015
36
41. クライアント接続
ユーザーのコネクション制御機能を拡張 サンプル
dbadmin=> --現在のu1からの接続数を確認
dbadmin=> SELECT COUNT(*) FROM sessions WHERE user_name = 'u1';
COUNT
-------
1
(1 row)
dbadmin=> --u1からの接続が1つある状態で、u1に接続する
dbadmin=> c - u1
Password:
FATAL 7470: New session rejected because connection limit of 1 on database
already met for u1
Previous connection kept
44
u1は、1を超えるセッションを接続できない
42. クライアント接続
ユーザーのコネクション制御機能を拡張 サンプル
dbadmin=> --u1の接続を切断
dbadmin=> SELECT CLOSE_USER_SESSIONS('u1');
CLOSE_USER_SESSIONS
-----------------------------------------------------------------------------
Close all sessions for user u1 sent. Check v_monitor.sessions for progress.
(1 row)
dbadmin=> --再度、u1に接続する
dbadmin=> c - u1
Password:
You are now connected as user "u1".
45
特定ユーザーからの接続のみ、セッションを切断
43. クライアント接続
ユーザーのコネクション制御機能を拡張 サンプル
u1=> --30秒経過後、クエリーを実行
u1=> SELECT 1;
FATAL 7540: Session idle for more than 30000 ms. Session Timed Out!
server closed the connection unexpectedly
This probably means the server terminated abnormally
before or while processing the request.
The connection to the server was lost. Attempting reset: Succeeded.
46
u1で接続したセッションで30秒以上何もしない時間が続くと、セッションが自動切断される
44. クライアント接続
ユーザーのコネクション制御機能を拡張 サンプル
dbadmin=> --dbadminの最大接続数の設定を変更する
dbadmin=> ALTER USER dbadmin MAXCONNECTIONS 1 ON DATABASE;
ROLLBACK 7452: Maxconnections cannot be set for a superuser
dbadmin=> --dbadminのアイドルタイムアウトの設定を変更する
dbadmin=> ALTER USER dbadmin IDLESESSIONTIMEOUT '30 seconds';
WARNING 7674: Idlesessiontimeout cannot be less than 15 minutes for superuser.
Using 15 minutes as idlesessiontimeout
ALTER USER
dbadmin=> --dbadminの作成定義を確認
dbadmin=> SELECT user_name, max_connections, connection_limit_mode,
idle_session_timeout FROM users WHERE user_name = 'dbadmin';
user_name | max_connections | connection_limit_mode | idle_session_timeout
-----------+-----------------+-----------------------+----------------------
dbadmin | unlimited | database | 00:15
(1 row)
47
dbadmin(スーパーユーザー)は
• 最大接続数の設定を変更できない
• 15分以下のアイドルタイムアウトを設定できない
45. クライアント接続
ユーザーのコネクション制御機能を拡張 サンプル
dbadmin=> --dbadminの接続を切断
dbadmin=> SELECT CLOSE_USER_SESSIONS('dbadmin');
CLOSE_USER_SESSIONS
-------------------------------------------------------------------------------
Close all sessions for user dbadmin sent. Check v_monitor.sessions for
progress.
(1 row)
※別セッション
dbadmin=> select 1;
server closed the connection unexpectedly
This probably means the server terminated abnormally
before or while processing the request.
The connection to the server was lost. Attempting reset: Succeeded.
48
dbadmin(スーパーユーザー)に対しても、
CLOSE_USER_SESSIONSを実行可能
47. クエリー管理
分析関数やUdxを含むSQLに対してDirected Queriesを作成することが可能に
Directed Queries とは?
1. オプティマイザが生成するクエリ実行計画の保存と適用
1. CREATE DIRECTED QUERY OPTIMIZER <オリジナルSELECTクエリ> ;
2. ACTIVATE DIRECTED QUERY ‘クエリ名’ ;
2. クエリ実行計画のカスタマイズと強制
1. SAVE QUERY <オリジナルSELECTクエリ> ;
2. CREATE DIRECTED QUERY CUSTOM ‘クエリ名’ SELECT <ヒント句付のカスタマイズSELECTクエリ> ;
3. ACTIVATE DIRECTED QUERY ‘クエリ名’ ;
オプティマイザの生成実行計画の保存
CREATE DIRECTED QUERY OPTIMIZER
Query Plan
カスタマイズした実行計画の保存
CREATE DIRECTED QUERY CUSTOM
SELECT /*+syntactic_join, verbatim*/ c.name
FROM ( customer c /*+projs(customer_proj_age)*/
JOIN /*+jtype(M), Distrib(L,B)*/
purchase p
/*+projs(purchase_proj_cid)*/
ON c.cid = p.cid )
JOIN /*+jtype(H), Distrib(L,R)*/
item i /*+projs(item_proj_type)*/
ON p.iid = i.iid
WHERE i.type = ‘household’
AND c.age < 30
AND Month(p.date) = ‘March’;
SQL + HINTS
48. クエリー管理
分析関数やUdxを含むSQLに対してDirected Queriesを作成することが可能に
V7.2.3まで
Vertica分析関数(OVER句を含む関数など)やUDxを
使ったSQLにはDirected Queriesが作成できなかった
例:
CREATE DIRECTED QUERY OPTIMIZER ‘DQ1’
SELECT symbol, bid, RANK() OVER(PARTITION
BY symbol ORDER BY bid DESC) rank
FROM TickStore;
ROLLBACK 7073: WINDOW clause not supported
for optimizer-generated annotated queries
V8.0.0
Vertica分析関数(OVER句を含む関数など)やUDxを
使ったSQLにもDirected Queriesが作成可能になった
例:
CREATE DIRECTED QUERY OPTIMIZER ‘DQ1’
SELECT symbol, bid, RANK() OVER(PARTITION
BY symbol ORDER BY bid DESC) rank
FROM TickStore;
CREATE DIRECTED QUERY
--システムテーブル確認:
SELECT annotated_query FROM
DIRECTED_QUERIES WHERE query_name = ‘DQ1';
SELECT /*+ verbatim */ TickStore.symbol AS
symbol, TickStore.bid AS bid, rank() OVER
(PARTITION BY TickStore.symbol ORDER BY
TickStore.bid DESC) AS rank
FROM public.TickStore AS
TickStore/*+projs('public.TickStore')*/
61. マネージメントコンソール
Kafkaクラスターにマネージメントコンソールを配置することが可能に
Production database - 1
Production database - 2
Kafka
MC Storage DB
Custom dcschema to manage
the data from the stream of the
34 table topics
34 collector topics
Data Collector information set - 1
Target = Consumer = MC Storage DB
A single dedicated centralized database that
receives the stream of messages and stores
the information for use in the MC charts
Source DB = Producer
The database(s) that sends the stream
of messages, events and statistics
Data Collector information set - 2
Transport
Service
34 dc tables
34 dc tables
34 real tables
Management
Console
roadmap for enhancing traditional data warehouse capabilities
roadmap for a semantic design tier; system and solution auditing and health management to assure use-case SLA compliance; static and dynamic cost-based optimization, with the potential to span processing environments and data structures; management and orchestration of multiple processing engines; and elastic workload management and process distribution.
16
17
This change has resulted in a pretty substantial improvement in execution time.
But while the difference is not as pronounced, there is still a pretty significant performance difference between 250 and 1500 columns. We still had more work to do.
24
Encrypts data on disk. Encrypts network traffic, etc. so that I complies.
Considerations:
Existing environments can not upgrade dynamically into FIPS. FIPS 140-2 compliant mode of operations is set during initial installation.
Must use Red Hat 6.6 on both client and server
ODBC driver only
Installer will query the Red Hat operating system to determine if it is in FIPS mode and will install Vertica accordingly
There is a separate ODBC client installer specifically for FIPS and must be used to ensure end to end compliance
・フレックステーブルで列をコンピュートする際、取り込んだデータの性質から、Verticaでのデータ型を決定するが、これまでは基本文字列型として認識
・この精度を向上させるためのパラメータができた
・パラメータを有効化すると、フレックステーブルで列をコンピュートする際に、より正しいデータ型をセットできるようになる
https://my.vertica.com/docs/7.2.x/HTML/index.htm#Authoring/FlexTables/SettingFlexTableParameters.htm
Using EnableBetterFlexTypeGuessing
To increase the accuracy of the data type that the COMPUTE_FLEXTABLE_KEYS or COMPUTE_FLEXTABLE_KEYS_AND_BUILD_VIEW functions assign, set theEnableBetterFlexTypeGuessing configuration parameter. This parameter is off by default.
After setting the EnableBetterFlexTypeGuessing, the function results include additional data types, including BOOLEAN, INTEGER, FLOAT, DATE, and TIMESTAMP.
You can set the parameter at either the session or database level. For information about setting configuration parameters, see Setting Configuration Parameter Values in the Administrator's Guide.