プロジェクト

全般

プロフィール

ToDo #853

【データ基盤】VECC売上欠損

武田 遼河 さんが19日前に追加. 16日前に更新.

ステータス:
完了
優先度:
今すぐ
担当者:
開始日:
2025/02/03
期日:
2025/02/14
進捗率:

0%

予定工数:

説明

2025/2/1, 2/2 営業日分のVE,CC売上について、取込エラーが発生いたしましたのでご報告いたします。
原因について調査をお願いできますでしょうか?

【事象】
・VE,CC全店の2月分の売上が表示されない
 →DMに売上、客数実績が0

【一次調査】
・archiveファイル
 →VE,CCともに2/1,2/2分あり

・dwh.tec_ztotal
 →本日分は存在

・dwh.tec_ztotal_partition
 →month=2以下のdayフォルダが生成されていない
  (month=2,day=2はリカバリ時生成?)
 →InsertSQLが失敗している?






ファイル

clipboard-202502030912-mdpar.png (119 KB) clipboard-202502030912-mdpar.png 武田 遼河, 2025/02/03 09:12
clipboard-202502030928-a2oau.png (159 KB) clipboard-202502030928-a2oau.png 武田 遼河, 2025/02/03 09:28
clipboard-202502030932-bx48l.png (121 KB) clipboard-202502030932-bx48l.png 武田 遼河, 2025/02/03 09:32
clipboard-202502031009-uv9tb.png (172 KB) clipboard-202502031009-uv9tb.png 武田 遼河, 2025/02/03 10:09
clipboard-202502031013-fnvpe.png (117 KB) clipboard-202502031013-fnvpe.png 武田 遼河, 2025/02/03 10:13
tec_ztotal_202502031030.zip (218 KB) tec_ztotal_202502031030.zip 武田 遼河, 2025/02/03 13:00
clipboard-202502031329-meflw.png (150 KB) clipboard-202502031329-meflw.png 武田 遼河, 2025/02/03 13:29
clipboard-202502031333-7g1ns.png (150 KB) clipboard-202502031333-7g1ns.png 武田 遼河, 2025/02/03 13:33
screenshot 2025-02-04 14.20.30.png (156 KB) screenshot 2025-02-04 14.20.30.png 村上 達也, 2025/02/04 14:40
screenshot 2025-02-06 5.49.55.png (24.4 KB) screenshot 2025-02-06 5.49.55.png 村上 達也, 2025/02/06 06:36
screenshot 2025-02-06 6.32.04.png (175 KB) screenshot 2025-02-06 6.32.04.png 村上 達也, 2025/02/06 06:36
#1

武田 遼河 さんが19日前に更新

【リカバリ対応】
・2/1,2/2売上分を再取込を試みましたが以下エラーでpublic領域へのInsertが失敗しました。
※現在2/1,2/2分のデータがdwh.tec_ztotal_partitionまで反映している状況です。

redshiftのディスク使用率を確認したところ、今年に入ってから100%で推移しているようなのですが、こちらは影響がありそうでしょうか?
対応方針含めご相談させていただけますと幸いです。

#2

村上 達也 さんが18日前に更新

取り急ぎDWH、DM、BIレポートのリカバリー処理を完了させました。

!screenshot 2025-02-04 14.20.30.png!

原因については、調査中ですので判明し次第改めて報告致します。

村上

#3

村上 達也 さんが17日前に更新

本件について、全てのログを確認しました。
原因は12/24以降Redshiftのデータ容量に空きが無くなって来ていたことでした。
昨日は一時的に空きスペースを作ってリカバリーを行いましたが、根本解決には容量追加が必要です(空き容量を確保できればこの問題は解決します)。

Redshiftの容量アップは、従来の「ノード数の追加」で行う場合(DC2)と伸縮自在の「新しいタイプ」で行う場合(RA3)とがあり、

  1. DC2でノードを2→3へ増やした場合(SDD 320GB → 480GB)$458.44 → $687.66
  2. RA3に変更した場合(SDD 320GB → 16TB)$458.44 → $932.94

のような違いがあります。

将来的なことも考えると2の一択だと思われますが、ご検討ください。

村上

#4

武田 遼河 さんが16日前に更新

2025/2/5 Mtg
村上さん
詳細調査の実施とご報告ありがとうございます。
ひとまずノードの追加、2月売上のリカバリを村上さんにご対応いただきます。

→2/6朝 CU側で取込状況を確認します。

#5

村上 達也 さんが16日前に更新

Redshiftの容量を追加して、使用率が60%程度まで下がりました。
!screenshot 2025-02-06 5.49.55.png!

空き容量が出来たのでリカバリー処理を行い、欠損していた2/4分がレポートに反映されていること、および自動処理で生成された2/5分に値が入っていることを確認(天気は早朝にてまだ未反映)しています。
!screenshot 2025-02-06 6.32.04.png!

ご確認のほど宜しくお願い致します。

村上

#6

武田 遼河 さんが16日前に更新

  • ステータス対応済み確認待ち から 完了 に変更

村上さん
早朝よりご対応ありがとうございました。
2月売上について、データが正常に反映されていることを確認いたしましたのでご報告いたします。

本件についてはクローズします。

他の形式にエクスポート: Atom PDF