sql – SPARK：失败：“union”预期但是#39;(‘找到了

我有一个名为df的数据框,名为employee_id.我在做：

df.registerTempTable("d_f")
val query = """SELECT *,ROW_NUMBER() OVER (ORDER BY employee_id) row_number FROM d_f"""
val result = Spark.getSqlContext().sql(query)

但是得到以下问题.有帮助吗？

[1.29] failure: ``union'' expected but `(' found
SELECT *,ROW_NUMBER() OVER (ORDER BY employee_id) row_number FROM d_f
                            ^
java.lang.RuntimeException: [1.29] failure: ``union'' expected but `(' found
SELECT *,ROW_NUMBER() OVER (ORDER BY employee_id) row_number FROM d_f

解决方法

Spark 2.0引入了窗口函数的本机实现(SPARK-8641),因此不再需要HiveContext.然而,与窗口函数无关的类似错误仍然可归因于SQL解析器之间的差异.

火花< = 1.6 Window 1.4.0中引入了窗口函数,需要HiveContext才能工作. SQLContext在这里不起作用.

确保使用Spark> = 1.4.0并创建HiveContext：

import org.apache.spark.sql.hive.HiveContext
val sqlContext = new HiveContext(sc)

（编辑：ASP站长）

【免责声明】本站内容转载自互联网，其相关言论仅代表作者个人观点绝非权威，不代表本站立场。如您发现内容存在版权问题，请提交相关链接至邮箱：bqsm@foxmail.com，我们将及时予以处理。