每个初学者都需要了解的 16 种 SQL 技术

从 1 到 10，您的数据仓库技能有多好？

想要超过 7/10？那么这篇文章就是为你准备的。

你的 SQL 有多好？想尽快准备好面试？

这篇博文详细解释了最复杂的数据仓库 SQL 技术。我将使用 BigQuery 标准 SQL 方言写下关于这个主题的一些想法。

1.增量表和MERGE

更新表很重要。这确实很重要。理想情况是当您拥有主键、唯一整数和自动递增的事务时。这种情况下的表更新很简单：

在现代数据仓库中处理非规范化星型模式数据集时，情况并非总是如此。您的任务可能是使用 SQL 创建会话和/或仅使用一部分数据增量更新数据集。 transaction_id可能不存在，但您必须处理唯一键取决于已知的最新transaction_id （或时间戳）的数据模型。例如， last_online数据集中的user_id取决于最新的已知连接时间戳。在这种情况下，您可能希望update现有用户并insert新用户。

MERGE 和增量更新

您可以使用MERGE ，也可以将操作拆分为两个操作。一种用新记录更新现有记录，另一种插入不存在的全新记录（LEFT JOIN 情况）。

MERGE是关系数据库中常用的语句。 Google BigQuery MERGE 命令是一种数据操作语言 (DML) 语句。它通常用于在一条语句中以原子方式执行三个主要功能。这些函数是 UPDATE、INSERT 和 DELETE。

• 当两个或多个数据匹配时，可以使用 UPDATE 或 DELETE 子句。
• 当两个或多个数据不同且不匹配时，可以使用 INSERT 子句。
• 当给定数据与源不匹配时，也可以使用 UPDATE 或 DELETE 子句。

这意味着 Google BigQuery MERGE 命令使您能够通过更新、插入和删除 Google BigQuery 表中的数据来合并 Google BigQuery 数据。

考虑这个 SQL：

2. 数词

执行 UNNEST() 并检查您需要的词是否在您需要的列表中可能在许多情况下很有用，即数据仓库情绪分析：

3. 在 SELECT 语句之外使用 IF() 语句

这使我们有机会节省一些代码行并在代码方面更加雄辩。通常你会想把它放到一个子查询中，并在where子句中添加一个过滤器，但你可以这样做：

另一个示例如何不将其用于分区表。不要这样做。这是一个不好的例子，因为匹配的表后缀可能是动态确定的（基于表中的某些内容），您将被收取全表扫描费用。

您还可以在HAVING子句和AGGREGATE函数中使用它。

4. 使用 GROUP BY ROLLUP

ROLLUP 函数用于在多个级别执行聚合。当您必须使用维度图时，这很有用。

以下查询按where子句中指定的交易类型 (is_gift) 返回每天的总积分支出，它还显示每天的总支出以及所有可用日期的总支出。

5.将表转换为JSON

假设您需要将表转换为 JSON 对象，其中每条记录都是嵌套数组的一个元素。这是to_json_string()函数有用的地方：

然后您可以在任何地方使用它：日期、营销渠道、指数、直方图等。

6.使用分区

给定user_id 、 date和total_cost列。对于每个日期，您如何在保留所有行的同时显示每个客户的总收入值？你可以这样实现：

7.移动平均线

BI 开发人员的任务通常是在他们的报告和出色的仪表盘中添加移动平均线。这可能是 7、14、30 天/月甚至年 MA 线图。那么我们该怎么做呢？

8. 日期数组

当您处理用户保留或想要检查某些数据集是否存在缺失值（即日期）时，它会变得非常方便。 BigQuery 有一个名为GENERATE_DATE_ARRAY函数：

9.行号()

这对于从您的数据中获取最新信息很有用，即最新更新的记录等，甚至可以删除重复项：

10.NTILE()

另一个编号功能。如果您有移动应用程序，这对于监控诸如Login duration in seconds之类的事情非常有用。例如，我将我的应用程序连接到 Firebase，当用户login时，我可以看到他们花了多长时间。

此函数根据行顺序将行划分为constant_integer_expression存储桶，并返回分配给每行的从 1 开始的存储桶编号。桶中的行数最多可以相差 1。余数值（行数除以桶的余数）从桶 1 开始分配给每个桶。如果constant_integer_expression计算结果为 NULL、0 或负数，提供了一个错误。

11.排名/dense_rank

它们也称为编号函数。我倾向于使用DENSE_RANK作为默认排名函数，因为它不会跳过下一个可用排名，而RANK会。它返回连续的排名值。您可以将它与将结果分成不同的桶的分区一起使用。如果每个分区中的行具有相同的值，它们将获得相同的排名。例子：

产品价格的另一个例子：

12. 旋转/旋转

Pivot 将行更改为列。这就是它所做的一切。 Unpivot 做相反的事情。

13. 首值/末值

这是另一个有用的函数，它有助于获取每一行相对于该特定分区中第一个/最后一个值的增量。

14. 将表转换为结构数组并将它们传递给 UDF

当您需要将具有某些复杂逻辑的用户定义函数 (UDF) 应用于每一行或一个表时，这非常有用。您始终可以将您的表视为一组 TYPE STRUCT 对象，然后将它们中的每一个传递给 UDF。这取决于你的逻辑。例如，我用它来计算购买过期时间：

以类似的方式，您可以创建表而无需使用UNION ALL 。例如，我用它来模拟单元测试的一些测试数据。这样，您只需在编辑器中使用Alt + Shift + Down即可非常快速地完成此操作。

15. 使用 FOLLOWING 和 UNBOUNDED FOLLOWING 创建事件漏斗

营销渠道就是一个很好的例子。您的数据集可能包含不断重复的相同类型的事件，但理想情况下您希望将每个事件与下一个不同类型的事件链接起来。当您需要获取某项列表（即事件、购买等）以构建渠道数据集时，这可能很有用。使用 PARTITION BY 它可以让您有机会对所有以下事件进行分组，而不管每个分区中存在多少事件。

16.正则表达式

如果您需要从非结构化数据中提取某些内容，例如外汇汇率、自定义分组等，您会使用它。

使用正则表达式处理货币汇率

考虑这个带有汇率数据的例子：

使用正则表达式处理应用程序版本

有时您可能想使用regexp为您的应用程序获取主要版本、发布版本或修改版本，并创建自定义报告：

结论

SQL 是一种有助于操作数据的强大工具。希望这些来自数字营销的 SQL 用例对您有用。这确实是一项方便的技能，可以帮助您完成许多项目。这些 SQL 片段让我的生活变得轻松多了，我几乎每天都在工作中使用它们。此外，SQL 和现代数据仓库是数据科学的必备工具。其强大的方言功能允许轻松建模和可视化数据。因为 SQL 是数据仓库和商业智能专业人员使用的语言，所以如果您想与他们共享数据，它是一个很好的选择。这是与市场上几乎所有数据仓库/湖解决方案进行通信的最常见方式。

最初由datamike发表于mydataschool.com

Mike 是一个充满激情且专注于数字化的人，他充满干劲和热情，热爱数字营销的全面组合所带来的挑战。住在英国，2015 年获得纽卡斯尔大学 MBA 学位。