开源 企业版 高校版 私有云 模力方舟 AI 队友
代码拉取完成,页面将自动刷新
forked from 小圈圈/Archery
加入 Gitee
与超过 1400万 开发者一起发现、参与优秀开源项目,私有仓库也完全免费 :)
免费加入
已有帐号? 立即登录
文件
master
分支 (3)
标签 (52)
master
adminlte
feature/add-restfulapis
v1.8.0
v1.7.13
v1.7.12
v1.7.11
v1.7.10
v1.7.9
v1.7.8
v1.7.7
v1.7.6
v1.7.5
v1.7.4
v1.7.3
v1.7.2
v1.7.1
v1.7.0
v1.6.7
v1.6.6
v1.6.5
v1.6.4
v1.6.3
master
分支 (3)
标签 (52)
master
adminlte
feature/add-restfulapis
v1.8.0
v1.7.13
v1.7.12
v1.7.11
v1.7.10
v1.7.9
v1.7.8
v1.7.7
v1.7.6
v1.7.5
v1.7.4
v1.7.3
v1.7.2
v1.7.1
v1.7.0
v1.6.7
v1.6.6
v1.6.5
v1.6.4
v1.6.3
克隆/下载
克隆/下载
提示
下载代码请复制以下命令到终端执行
为确保你提交的代码身份被 Gitee 正确识别,请执行以下命令完成配置
初次使用 SSH 协议进行代码克隆、推送等操作时,需按下述提示完成 SSH 配置
1 生成 RSA 密钥
2 获取 RSA 公钥内容,并配置到 SSH公钥
在 Gitee 上使用 SVN,请访问 使用指南
使用 HTTPS 协议时,命令行会出现如下账号密码验证步骤。基于安全考虑,Gitee 建议 配置并使用私人令牌 替代登录密码进行克隆、推送等操作
Username for 'https://gitee.com': userName
Password for 'https://userName@gitee.com': # 私人令牌
master
分支 (3)
标签 (52)
master
adminlte
feature/add-restfulapis
v1.8.0
v1.7.13
v1.7.12
v1.7.11
v1.7.10
v1.7.9
v1.7.8
v1.7.7
v1.7.6
v1.7.5
v1.7.4
v1.7.3
v1.7.2
v1.7.1
v1.7.0
v1.6.7
v1.6.6
v1.6.5
v1.6.4
v1.6.3
Archery
/
sql
/
utils
/
sql_utils.py
Archery
/
sql
/
utils
/
sql_utils.py
sql_utils.py 10.98 KB
一键复制 编辑 原始数据 按行查看 历史
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 46 47 48 49 50 51 52 53 54 55 56 57 58 59 60 61 62 63 64 65 66 67 68 69 70 71 72 73 74 75 76 77 78 79 80 81 82 83 84 85 86 87 88 89 90 91 92 93 94 95 96 97 98 99 100 101 102 103 104 105 106 107 108 109 110 111 112 113 114 115 116 117 118 119 120 121 122 123 124 125 126 127 128 129 130 131 132 133 134 135 136 137 138 139 140 141 142 143 144 145 146 147 148 149 150 151 152 153 154 155 156 157 158 159 160 161 162 163 164 165 166 167 168 169 170 171 172 173 174 175 176 177 178 179 180 181 182 183 184 185 186 187 188 189 190 191 192 193 194 195 196 197 198 199 200 201 202 203 204 205 206 207 208 209 210 211 212 213 214 215 216 217 218 219 220 221 222 223 224 225 226 227 228 229 230 231 232 233 234 235 236 237 238 239 240 241 242 243 244 245 246 247 248 249 250 251 252 253 254 255 256 257 258 259 260 261 262 263 264 265 266 267 268 269 270 271 272 273 274 275 276 277 278 279 280 281 282 283 284 285 286 287 288 289 290 291 292 293 294 295 296 297 298 299 300 301 302 303 304
# -*- coding: UTF-8 -*-
"""
@author: hhyo
@license: Apache Licence
@file: sql_utils.py
@time: 2019年03月13日
"""
import re
import xml
import mybatis_mapper2sql
import sqlparse
from sql.engines.models import SqlItem
from sql.utils.extract_tables import extract_tables as extract_tables_by_sql_parse
__author__ = 'hhyo'
def get_syntax_type(sql, parser=True, db_type='mysql'):
"""
返回SQL语句类型,仅判断DDL和DML
:param sql:
:param parser: 是否使用sqlparse解析
:param db_type: 不使用sqlparse解析时需要提供该参数
:return:
"""
sql = remove_comments(sql=sql, db_type=db_type)
if parser:
try:
statement = sqlparse.parse(sql)[0]
syntax_type = statement.token_first(skip_cm=True).ttype.__str__()
if syntax_type == 'Token.Keyword.DDL':
syntax_type = 'DDL'
elif syntax_type == 'Token.Keyword.DML':
syntax_type = 'DML'
except Exception:
syntax_type = None
else:
if db_type == 'mysql':
ddl_re = r"^alter|^create|^drop|^rename|^truncate"
dml_re = r"^call|^delete|^do|^handler|^insert|^load\s+data|^load\s+xml|^replace|^select|^update"
elif db_type == 'oracle':
ddl_re = r"^alter|^create|^drop|^rename|^truncate"
dml_re = r"^delete|^exec|^insert|^select|^update|^with|^merge"
else:
# TODO 其他数据库的解析正则
return None
if re.match(ddl_re, sql, re.I):
syntax_type = 'DDL'
elif re.match(dml_re, sql, re.I):
syntax_type = 'DML'
else:
syntax_type = None
return syntax_type
def remove_comments(sql, db_type='mysql'):
"""
去除SQL语句中的注释信息
来源:https://stackoverflow.com/questions/35647841/parse-sql-file-with-comments-into-sqlite-with-python
:param sql:
:param db_type:
:return:
"""
sql_comments_re = {
'oracle':
[r'(?:--)[^\n]*\n', r'(?:\W|^)(?:remark|rem)\s+[^\n]*\n'],
'mysql':
[r'(?:#|--\s)[^\n]*\n']
}
specific_comment_re = sql_comments_re[db_type]
additional_patterns = "|"
if isinstance(specific_comment_re, str):
additional_patterns += specific_comment_re
elif isinstance(specific_comment_re, list):
additional_patterns += "|".join(specific_comment_re)
pattern = r"(\".*?\"|\'.*?\')|(/\*.*?\*/{})".format(additional_patterns)
regex = re.compile(pattern, re.MULTILINE | re.DOTALL)
def _replacer(match):
if match.group(2):
return ""
else:
return match.group(1)
return regex.sub(_replacer, sql).strip()
def extract_tables(sql):
"""
获取sql语句中的库、表名
:param sql:
:return:
"""
tables = list()
for i in extract_tables_by_sql_parse(sql):
tables.append({
"schema": i.schema,
"name": i.name,
})
return tables
def generate_sql(text):
"""
从SQL文本、MyBatis3 Mapper XML file文件中解析出sql 列表
:param text:
:return: [{"sql_id": key, "sql": soar.compress(value)}]
"""
# 尝试XML解析
try:
mapper, xml_raw_text = mybatis_mapper2sql.create_mapper(xml_raw_text=text)
statements = mybatis_mapper2sql.get_statement(mapper, result_type='list')
rows = []
# 压缩SQL语句,方便展示
for statement in statements:
for key, value in statement.items():
row = {"sql_id": key, "sql": value}
rows.append(row)
except xml.etree.ElementTree.ParseError:
# 删除注释语句
text = sqlparse.format(text, strip_comments=True)
statements = sqlparse.split(text)
rows = []
num = 0
for statement in statements:
num = num + 1
row = {"sql_id": num, "sql": statement}
rows.append(row)
return rows
def get_base_sqlitem_list(full_sql):
''' 把参数 full_sql 转变为 SqlItem列表
:param full_sql: 完整sql字符串, 每个SQL以分号;间隔, 不包含plsql执行块和plsql对象定义块
:return: SqlItem对象列表
'''
list = []
for statement in sqlparse.split(full_sql):
statement = sqlparse.format(statement, strip_comments=True, reindent=True, keyword_case='lower')
if len(statement) <= 0:
continue
item = SqlItem(statement=statement)
list.append(item)
return list
def get_full_sqlitem_list(full_sql, db_name):
''' 获取Sql对应的SqlItem列表, 包括PLSQL部分
PLSQL语句块由delimiter $$作为开始间隔符,以$$作为结束间隔符
:param full_sql: 全部sql内容
:return: SqlItem 列表
'''
list = []
# 定义开始分隔符,两端用括号,是为了re.split()返回列表包含分隔符
regex_delimiter = r'(delimiter\s*\$\$)'
# 注意:必须把package body置于package之前,否则将永远匹配不上package body
regex_objdefine = r'create\s+or\s+replace\s+(function|procedure|trigger|package\s+body|package|view)\s+("?\w+"?\.)?"?\w+"?[\s+|\(]'
# 对象命名,两端有双引号
regex_objname = r'^".+"$'
sql_list = re.split(pattern=regex_delimiter, string=full_sql, flags=re.I)
# delimiter_flag => 分隔符标记, 0:不是, 1:是
# 遇到分隔符标记为1, 则本块SQL要去判断是否有PLSQL内容
# PLSQL内容存在判定依据, 本块SQL包含'$$'
delimiter_flag = 0
for sql in sql_list:
# 截去首尾空格和多余空字符
sql = sql.strip()
# 如果字符串长度为0, 跳过该字符串
if len(sql) <= 0:
continue
# 表示这一行是分隔符, 跳过该字符串
if re.match(regex_delimiter, sql):
delimiter_flag = 1
continue
if delimiter_flag == 1:
# 表示SQL块为delimiter $$标记之后的内容
# 查找是否存在'$$'结束符
pos = sql.find("$$")
length = len(sql)
if pos > -1:
# 该sqlitem包含结束符$$
# 处理PLSQL语句块, 这里需要先去判定语句块的类型
plsql_block = sql[0:pos].strip()
# 如果plsql_area字符串最后一个字符为/,则把/给去掉
while True:
if plsql_block[-1:] == '/':
plsql_block = plsql_block[:-1].strip()
else:
break
search_result = re.search(regex_objdefine, plsql_block, flags=re.I)
# 检索关键字, 分为两个情况
# 情况1:plsql block 为对象定义执行块
# 情况2:plsql block 为匿名执行块
if search_result:
# 检索到关键字, 属于情况1
str_plsql_match = search_result.group()
str_plsql_type = search_result.groups()[0]
idx = str_plsql_match.index(str_plsql_type)
nm_str = str_plsql_match[idx + len(str_plsql_type):].strip()
if nm_str[-1:] == '(':
nm_str = nm_str[:-1]
nm_list = nm_str.split('.')
if len(nm_list) > 1:
# 带有属主的对象名, 形如object_owner.object_name
# 获取object_owner
if re.match(regex_objname, nm_list[0]):
# object_owner两端带有双引号
object_owner = nm_list[0].strip().strip('"')
else:
# object_owner两端不带有双引号
object_owner = nm_list[0].upper().strip().strip("'")
# 获取object_name
if re.match(regex_objname, nm_list[1]):
# object_name两端带有双引号
object_name = nm_list[1].strip().strip('"')
else:
# object_name两端不带有双引号
object_name = nm_list[1].upper().strip()
else:
# 不带属主
object_owner = db_name
if re.match(regex_objname, nm_list[0]):
# object_name两端带有双引号
object_name = nm_list[0].strip().strip('"')
else:
# object_name两端不带有双引号
object_name = nm_list[0].upper().strip()
tmp_object_type = str_plsql_type.upper()
tmp_stmt_type = 'PLSQL'
if tmp_object_type == 'VIEW':
tmp_stmt_type = 'SQL'
item = SqlItem(statement=plsql_block,
stmt_type=tmp_stmt_type,
object_owner=object_owner,
object_type=tmp_object_type,
object_name=object_name)
list.append(item)
else:
# 未检索到关键字, 属于情况2, 匿名可执行块 it's ANONYMOUS
item = SqlItem(statement=plsql_block.strip(),
stmt_type='PLSQL',
object_owner=db_name,
object_type='ANONYMOUS',
object_name='ANONYMOUS')
list.append(item)
if length > pos + 2:
# 处理$$之后的那些语句, 默认为单条可执行SQL的集合
sql_area = sql[pos + 2:].strip()
if len(sql_area) > 0:
tmp_list = get_base_sqlitem_list(sql_area)
list.extend(tmp_list)
else:
# 没有匹配到$$标记, 默认为单条可执行SQL集合
tmp_list = get_base_sqlitem_list(sql)
list.extend(tmp_list)
# 处理完本次delimiter标记的内容,把delimiter_flag重置
delimiter_flag = 0
else:
# 表示当前为以;结尾的正常sql
tmp_list = get_base_sqlitem_list(sql)
list.extend(tmp_list)
return list
def get_exec_sqlitem_list(reviewResult, db_name):
""" 根据审核结果生成新的SQL列表
:param reviewResult: SQL审核结果列表
:param db_name:
:return:
"""
list = []
list.append(SqlItem(statement=f"ALTER SESSION SET CURRENT_SCHEMA = {db_name}"))
for item in reviewResult:
list.append(SqlItem(statement=item['sql'],
stmt_type=item['stmt_type'],
object_owner=item['object_owner'],
object_type=item['object_type'],
object_name=item['object_name']))
return list
Loading...
举报
举报成功
我们将于2个工作日内通过站内信反馈结果给你!
请认真填写举报原因,尽可能描述详细。
请选择举报类型
取消
发送
误判申诉

此处可能存在不合适展示的内容,页面不予展示。您可通过相关编辑功能自查并修改。

如您确认内容无涉及 不当用语 / 纯广告导流 / 暴力 / 低俗色情 / 侵权 / 盗版 / 虚假 / 无价值内容或违法国家有关法律法规的内容,可点击提交进行申诉,我们将尽快为您处理。

取消
提交

简介

Archery 定位于 SQL 审核查询平台,旨在提升 DBA 的工作效率,支持多种数据库的 SQL 上线和查询,同时支持丰富的 MySQL 运维功能
取消

发行版

暂无发行版

贡献者

全部

近期动态

不能加载更多了
编辑仓库简介
简介内容
主页
马建仓 AI 助手
尝试更多
代码解读
代码找茬
代码优化
Python
1
https://gitee.com/CN_python/Archery.git
git@gitee.com:CN_python/Archery.git
CN_python
Archery
Archery
master
点此查找更多帮助

搜索帮助

仓库举报
回到顶部
登录提示
该操作需登录 Gitee 帐号,请先登录后再操作。
立即登录
没有帐号,去注册

AltStyle によって変換されたページ (->オリジナル) /