0
点赞
收藏
分享

微信扫一扫

--Postgresql 检测表大小 与 PG13 安装pycopg 问题


PG13 上安装pycopg2后,报找不到 libpq.so.5 的问题,之前在PG11 PG12上没有此问题,解决问题的方案为在使用 pycopg2的机器上安装 PostgreSQL 13 x86_64 

--Postgresql  检测表大小 与 PG13 安装pycopg 问题_数据分析

https://centos.pkgs.org/7/postgresql-13-x86_64/postgresql13-libs-13.5-1PGDG.rhel7.x86_64.rpm.html

可以下载rpm包进行安装,也可以直接  sudo yum -y install postgresql13-libs

主要的问题原因在于,找不到libpg.so.5 ,安装libs 库即可。

下面这段程序主要的起因是,大表更新,在公司DBA接到开发的工单要对PG数据库的表进行批量的数据UPDATE, 在通过工具的执行中,发现磁盘空间急速的降低,从剩余700G 在不到 5分钟的情况下就损失了20G ,并且还在持续,工具中包含的任务比较多,在这样的情况下,直接和DBA 告知,紧急叫停,因为如果触发磁盘空间爆满,业务停止,事情就大了。

通过pg_terminate_backend 将程序自动执行的业务停止,后面告知DBA将剩余没有做的表都查一遍空间,包含索引,然后将空间* 2.5 后发现当前剩余的磁盘空间可以HOLD住后续的UPDATE 操作。

这里就随即写了一个程序(比较简陋)可以将制定的表的占用的空间进行累加,这边也给DB建议,在以后的UPDATE 操作中,先执行程序将需要UPDATE的表的空间进行计算,如果操作完毕后,剩余的磁盘空间不足约定的磁盘空间,则操作不能进行,必须添加磁盘空间后才能操作。

#!/usr/bin/python3
import os
import sys
import psycopg2
import re
import subprocess
def check_table_size():
    conn = None
    conn = psycopg2.connect(database="postgres",user="admin",password="admin",host="192.168.198.100",port="5432")
    table_list = ["pgbench_accounts","pgbench_branches","pgbench_history","pgbench_tellers"]
    cur = conn.cursor()
    for table in table_list:
        z1 = 'select pg_relation_size(\''
        z2 = '\');'
        #print(z1+table+z2) 
        cur.execute(z1+table+z2)
        rows = cur.fetchall()
        size = 0
        for row in rows:
            size = int(row[0]) + size
    print('表总体大小合计')
    print(str(size) + '  byte')
    print('请确保数据磁盘空间在以下空间以上')
    print(str(float(size) * 2.5) + '  byte')
    conn.commit()
    conn.close
def check_index_size():
    conn = None
    conn = psycopg2.connect(database="postgres",user="admin",password="admin",host="192.168.198.100",port="5432")
    table_list = ["pgbench_accounts","pgbench_branches","pgbench_history","pgbench_tellers"]
    cur = conn.cursor()
    for table in table_list:
        z1 = 'select pg_indexes_size(\''
        z2 = '\');'
        #print(z1+table+z2) 
        cur.execute(z1+table+z2)
        rows = cur.fetchall()
        size = 0
        for row in rows:
            size = int(row[0]) + size
    print('表索引大小合计')
    print(str(size) + '  byte')
    conn.commit()
    conn.close
def check_index_size():
    conn = None
    conn = psycopg2.connect(database="postgres",user="admin",password="admin",host="192.168.198.100",port="5432")
    table_list = ["pgbench_accounts","pgbench_branches","pgbench_history","pgbench_tellers"]
    cur = conn.cursor()
    for table in table_list:
        z1 = 'select pg_indexes_size(\''
        z2 = '\');'
        #print(z1+table+z2) 
        cur.execute(z1+table+z2)
        rows = cur.fetchall()
        size = 0
        for row in rows:
            size = int(row[0]) + size
    print('表索引大小合计')
    print(str(size) + '  byte')
    conn.commit()
    conn.close
if __name__ == "__main__":
    check_table_size()
    check_index_size()

后续需要完善PG大表批量更新的操作, 需要对操作的表先进行check 并比对目前剩余的空间后,在进行操作。

--Postgresql  检测表大小 与 PG13 安装pycopg 问题_数据分析_02

举报

相关推荐

0 条评论