公共公益事業データ解放プロジェクト(PUDL)データリリース
Public Utility Data Liberation Project (PUDL) Data Release (原題)
Selvans, Zane, Gosnell, Christina, Sharpe, Austen, Schira, Zachary, Xia, Dazhong, Belfer, Ella, Mazaitis, Kathryn
🤖 gxceed AI 要約
日本語
PUDLの四半期リリースで、EIA、EPA、FERCなどの米国電力・ガスデータを更新・拡充。プエルトリコのEIA-860Mデータ追加、EPA MATSデータセット新規追加、FERC Form 714のバランスオーソリティコード修正などが含まれる。データの品質向上とLLM対応ドキュメント整備も実施。
English
Quarterly release of PUDL, updating and expanding US electricity and gas data from EIA, EPA, FERC, etc. Includes new Puerto Rico EIA-860M data, new EPA MATS dataset, and fixes to FERC Form 714 balancing authority codes. Also improves data quality and adds LLM-friendly documentation.
Unofficial AI-generated summary based on the public title and abstract. Not an official translation.
📝 gxceed 編集解説 — Why this matters
日本のGX文脈において
日本のGX実務では、SSBJ開示やScope 2算定に必要な電力データの整備が課題。PUDLのようなオープンなデータ基盤は、日本の電力データ公開の参考になり、再エネ導入や脱炭素分析の基盤として有用。
In the global GX context
PUDL provides a comprehensive, open data infrastructure for US energy data, supporting TCFD/ISSB-aligned disclosure and transition finance analysis. Its standardized, cleaned datasets enable robust Scope 2 accounting and climate risk modeling, serving as a model for global data infrastructure.
👥 読者別の含意
🔬研究者:電力データを利用した脱炭素研究に活用できる、整備されたデータセットの存在を確認できる。
🏢実務担当者:自社の電力消費データと照合し、Scope 2算定や再エネ調達の分析に利用可能。
🏛政策担当者:データ公開のベストプラクティスとして、エネルギー政策の透明性向上に参考になる。
📄 抄録(日本語訳)
v2026.8.0(2026-08-07) これは定例の四半期PUDLリリースであり、多数のデータセット更新を含む。また、新しい生のEPA MATSデータセットを追加し、プエルトリコが初回貢献者である@bsousa22氏のおかげでEIA-860/860Mデータに含まれるようになった。さらに、FERC Form 714の需給調整機関データがDesert Southwest地域とUpper Great Plains West地域の間で交差していた長年のバグを追跡して修正した。詳細は以下を参照。 新規データ EIA-860M プエルトリコのEIA-860MデータをEIA 860テーブルに追加。Issue #4352およびPR #5360を参照。@bsousa22氏の初のPUDL貢献に感謝する。 EPA MATS EPA Mercury and Air Toxics Standards(MATS)データセットを追加し、2026年6月末までの追加レコードを含む生テーブルに抽出した。このデータはまだPUDLに深く統合されていない。Issue #5358およびPR #5389、#5464を参照。これも@bsousa22氏からの貢献である。 データカバレッジの拡大 EIA-191 EIA-191データを更新。PR #5464を参照。 EIA-860M 2026年6月までのEIA-860Mデータを追加。Issue #5459およびPR #5468を参照。 EIA-923 EIA-923 2025年の早期公開データを追加。Issue #5372およびPR #5391を参照。 2026年4月および5月のEIA-923Mデータを追加。Issue #5460およびPR #5391、#5468を参照。 EIA-930 EIA-930データを更新。PR #5445、#5464を参照。 FERC-714 FERC-714の2025年XBRLデータを追加。#5424およびPR #5436、#5464を参照。 EIA Electricity API 編集済み燃料価格を補完するために使用されるバルクEIA Electricity APIデータを更新。PR #5441、#5464を参照。 EPA CEMS 2026年6月末までの追加レコードを含むEPA CEMSデータを更新。PR #5441、#5464を参照。 PHMSA天然ガスデータ PHMSA天然ガスデータを更新。PR #5464を参照。 FERC Form 6 生のFERC Form 6アーカイブを更新し、追加の2025年データを含めた。このデータはSQLiteに変換されるが、PUDLに深く統合されてはいない。PR #5441を参照。 ドキュメント 貢献者ガイドおよび開発者ガイドにLLM利用ガイドラインとベストプラクティスを追加。PR #5395を参照。 sphinx_llm Sphinx拡張機能を設定し、llms.txt規約に基づいて、LLMによる消費に適したPUDLドキュメントのMarkdown版を生成するようにした。各ページは現在、<link rel="alternate" type="text/markdown">タグを介してMarkdown版を宣伝し、サイトフッターはllms.txtに直接リンクしているため、レンダリングされたHTMLドキュメントを閲覧するエージェントがMarkdown版を発見して優先できる。PR #5381、#5393を参照。 バグ修正とデータクリーニング FERC 714データにおけるWestern Area Power Authority BAコードの誤ったマッピングを修正 - 以前は、Upper Great Plains West地域のFERC回答者がDesert Southwest地域のEIA需給調整機関情報にマッピングされ、その逆も同様であった。#4644および#5408を参照。 FERC1「exploded tables」修正における正確な浮動小数点マージのバグを修正。add_sizable_minority_corrections()メソッドは、浮動小数点列を直接マージして修正候補を照合していた。正確な浮動小数点の等価性は極めて脆弱であり、32ビットから64ビット浮動小数点への移行により、一致するユーティリティ/年のペアが変化し、out_ferc1__yearly_detailed_balance_sheet_assetsおよびout_ferc1__yearly_rate_baseに余分な行と異なるending_balance合計が生成された。これらは、浮動小数点数でのマージの脆弱性に加えて、32ビット浮動小数点の限られた精度により失われていた実際の一致であった。これらは現在、$5の固定許容範囲内の値でマージすることにより決定的に捕捉されている。PR #5350を参照。 EIA-860のDagsterアセットグラフを修正し、EIA-860Mに正しく依存するようにした。これにより、raw_eia860mアセットグループとその下流アセットを選択すると、それに依存するEIA-860アセットも捕捉され、黙って古いままになることがなくなった。#4327およびPR #5409を参照。 パフォーマンス改善 get_parquet_table_polars()で遅延実行を維持するため、pl.Enumから制約のないpl.Categorical型に切り替えた。これにより、大規模テーブルでのスキーマチェックの実行が可能になり、PanderaのPolarsバックエンドは実際にはpl.LazyFrameアセット(PUDL内のアセットの99%)でデータ内容チェックを強制していなかった。PR #5434を参照。pl.LazyFrameアセットの効率的な内容検証の実装はPR #5432に委ねられる。 高速ETLは現在、全時系列の代わりに代表的なEIA-861の2年分のみを処理し、他のすべてのデータセットが既に処理されている方法と一致させ、ローカル開発とCIの両方を高速化した。全年を処理することは元々、廃止された列と部分的なカバレッジに耐えられないデータ検証テストのための回避策であった。これらの制限はその後解決された。この変更により、FERC-714出力において、既知の不良な需給調整機関/ユーティリティの関連付けを既知の良好な年からデータをコピーして修復するロジックで、すべてのEIA-861年が常に利用可能であるという暗黙の前提が表面化した。その修復ロジックは、年ごとの修正の明示的で検証済みのマッピングとして書き直され、年のサブセットのみが存在する場合に優雅に劣化し、置き換えるコンパクトな形式よりもかなり読みやすく、テストしやすく、拡張しやすい。#2628および#4568を参照。 開発者エクスペリエンス pudl.metadata.dtypesで、数値dtypeを常に64ビット値に、日時型をマイクロ秒解像度に標準化した。未使用のto_pandas_dtype()のcompact引数は廃止された。PR #5350を参照。 デプロイおよびビルドワークフローで使用されるバッチジョブIDをサニタイズし、常にGoogle Batchの命名要件を満たすようにした。これにより、以前IDをより一般的にすることで回避していた失敗を修正した。#5411およびPR #5429を参照。 その他のPUDL v2026.8.0リソース PUDL v2026.8.0データ辞書 PUDL v2026.8.0ドキュメント AWS Open Data RegistryのPUDL PUDL v2026.8.0は無料の公開AWS S3バケット: s3://pudl.catalyst.coop/v2026.8.0/ PUDL v2026.8.0はリクエスタ支払いGCSバケット: gs://pudl.catalyst.coop/v2026.8.0/ このリリースのPUDL GitHubリポジトリのZenodoアーカイブ GitHub上のPUDL v2026.8.0リリース 連絡先 PUDLを使用している場合、ぜひご連絡いただきたい! 単に存在を知らせるメモや、ソフトウェアやデータの使用方法でも構わない。連絡方法は以下の通り多数ある: GitHubでフォロー PUDL Github issue trackerを使用して、遭遇したバグやデータの問題を知らせる GitHub Discussionsはユーザーサポートを提供する場所である。 GitHub Projectを見て、私たちが取り組んでいる内容を確認する。 プライベートな連絡はhello@catalyst.coopまでメールを送る。 Mastodon: @CatalystCoop@mastodon.energy BlueSky: @catalyst.coop LinkedInでつながる Kaggleでデータとノートブックで遊ぶ HuggingFaceでデータとMLモデルを組み合わせる ウェブサイトで詳細を学ぶ: https://catalyst.coop メール更新のためのアナウンスリストに登録する。
AI 翻訳(deepseek-v4-flash)。 正確を期す場合は下の原文を参照してください。
📄 Abstract(原文)
v2026.8.0 (2026-08-07) This is a regular quarterly PUDL release with a bunch of dataset updates. We've also added a new raw EPA MATS dataset, and Puerto Rico is now included in our EIA-860/860M data thanks to first-time contributor @bsousa22 . We also tracked down and fixed a longstanding bug that had FERC Form 714 balancing authority data crossed between the Desert Southwest and Upper Great Plains West regions. See below for all the details. New Data EIA-860M Added Puerto Rico EIA-860M data into EIA 860 tables. See issue #4352 and PR #5360 . Shoutout to @bsousa22 for making his first PUDL contribution! EPA MATS Added the EPA Mercury and Air Toxics Standards (MATS) dataset, extracted into a raw table with additional records through end of June 2026. This data is not yet deeply integrated into PUDL. See issue #5358 and PRs #5389 , #5464 . Also a contribution from @bsousa22 . Expanded Data Coverage EIA-191 Updated EIA-191 data. See PR #5464 . EIA-860M Added EIA-860M data through June 2026. See issue #5459 and PR #5468 . EIA-923 Added early release data for EIA-923 2025. See issue #5372 and PR #5391 . Added EIA-923M data for April and May 2026. See issue #5460 and PRs #5391 , #5468 . EIA-930 Updated EIA-930 data. See PRs #5445 , #5464 . FERC-714 Added 2025 XBRL data for FERC-714 . See #5424 and PRs #5436 , #5464 . EIA Electricity API Updated the bulk EIA Electricity API data used to fill in redacted fuel prices. See PRs #5441 , #5464 . EPA CEMS Updated the EPA CEMS data with additional records through end of June 2026. See PRs #5441 , #5464 . PHMSA Natural Gas data Updated the PHMSA natural gas data. See PR #5464 . FERC Form 6 Updated the raw FERC Form 6 archives to include additional 2025 data. This data is converted to SQLite, but not deeply integrated into PUDL. See PR #5441 . Documentation Added LLM use guidelines and best practices to the contributor guide and dev guide . See PR #5395 . Set up the sphinx_llm Sphinx extension to generate a Markdown version of the PUDL documentation, suitable for consumption by LLMs, based on the llms.txt convention. Each page now advertises its Markdown counterpart via a <link rel="alternate" type="text/markdown"> tag, and the site footer links directly to llms.txt , so that agents browsing the rendered HTML docs can discover and prefer the Markdown versions. See PRs #5381 , #5393 . Bug Fixes & Data Cleaning Fixed incorrectly mapped Western Area Power Authority BA codes in FERC 714 data - previously, the Upper Great Plains West region FERC respondent was mapped to the Desert Southwest region EIA balancing authority information, and vice versa. See #4644 and #5408 . Fixed an exact-float merge bug in FERC1 "exploded tables" corrections. The add_sizable_minority_corrections() method matched correction candidates by merging directly on floating point columns. Exact float equality is extremely brittle, and moving from 32- to 64-bit floats changed which utility/year pairs matched, producing extra rows and different ending_balance sums in out_ferc1__yearly_detailed_balance_sheet_assets and out_ferc1__yearly_rate_base . These were real matches being lost due to the limited precision of 32-bit floats, on top of the brittleness of of merging on floating point numbers. These are now being captured deterministically by merging on values within a fixed tolerance of $5. See PR #5350 . Fixed the Dagster asset graph for EIA-860 to correctly depend on EIA-860M , so selecting the raw_eia860m asset group and its downstream assets now also captures the EIA-860 assets that rely on it, instead of silently leaving them stale. See #4327 and PR #5409 . Performance Improvements Switched from using pl.Enum to unconstrained pl.Categorical types to preserve lazy execution in get_parquet_table_polars() . This allows running schema checks on large tables, and Pandera's Polars backend never actually enforced data content checks on pl.LazyFrame assets (99% of assets in PUDL). See PR #5434 . Implementing efficient content validation for pl.LazyFrame assets is left to PR #5432 . The fast ETL now processes only two representative EIA-861 years instead of the entire time series, bringing it in line with how every other dataset is already handled and speeding up both local development and CI. Processing all years was originally a workaround for discontinued columns and data validation tests that couldn't tolerate partial coverage; those limitations have since been resolved. This change surfaced an implicit assumption in the FERC-714 outputs that all EIA-861 years were always available, in the logic that repairs known-bad balancing authority/utility associations by copying data from a known-good year. That repair logic has been rewritten as an explicit, validated mapping of per-year fixes, so it degrades gracefully when only a subset of years is present, and is substantially easier to read, test, and extend than the compact form it replaces. See #2628 and #4568 . Developer Experience Standardized numeric dtypes to always use 64-bit values, and datetime types to use microsecond resolution in pudl.metadata.dtypes . The unused compact argument to to_pandas_dtype() was retired. See PR #5350 . Sanitized the batch job IDs used by the deploy and build workflows so they always meet Google Batch's naming requirements, fixing failures we had previously worked around by making the IDs more generic. See #5411 and PR #5429 . Other PUDL v2026.8.0 Resources PUDL v2026.8.0 Data Dictionary PUDL v2026.8.0 Documentation PUDL in the AWS Open Data Registry PUDL v2026.8.0 in a free, public AWS S3 bucket: s3://pudl.catalyst.coop/v2026.8.0/ PUDL v2026.8.0 in a requester-pays GCS bucket: gs://pudl.catalyst.coop/v2026.8.0/ Zenodo archive of the PUDL GitHub repo for this release PUDL v2026.8.0 release on GitHub Contact Us If you're using PUDL, we would love to hear from you! Even if it's just a note to let us know that you exist, and how you're using the software or data. Here's a bunch of different ways to get in touch: Follow us on GitHub Use the PUDL Github issue tracker to let us know about any bugs or data issues you encounter GitHub Discussions is where we provide user support. Watch our GitHub Project to see what we're working on. Email us at hello@catalyst.coop for private communications. On Mastodon: @CatalystCoop@mastodon.energy On BlueSky: @catalyst.coop Connect with us on LinkedIn Play with our data and notebooks on Kaggle Combine our data with ML models on HuggingFace Learn more about us on our website: https://catalyst.coop Subscribe to our announcements list for email updates .
🔗 Provenance — このレコードを発見したソース
- Zenodo https://zenodo.org/records/21843797first seen 2026-08-09 04:32:08 · last seen 2026-08-11 04:15:09
🔔 こうした論文の新着を逃したくない方は キーワードアラート に登録(無料・3キーワードまで)。
gxceed は公開メタデータに基づく研究支援データセットです。要約・翻訳・解説は AI 支援で生成されています。 最終的な解釈・検証は利用者が原典資料に基づいて行うことを前提とします。