aws-glue - 如何使用 AWS java SDK 使用 AWS 胶水作业自动生成脚本

In lại 作者：行者123 更新时间：2023-12-04 17:30:32 26 4

           CreateJobRequest req = new CreateJobRequest();
            req.setName("TestJob2");
            req.setRole("GlueS3Role");
            req.setGlueVersion("1.0");
            JobCommand command = new JobCommand();
            command.setName("glueetl");
            command.setPythonVersion("3");
            **// S3 location need not to be given, as script code is auto generated by AWS glue
           command.setScriptLocation(S3ScriptLocation);**
            req.setCommand(command);

            AWSGlue glueClient = AWSGlueClientBuilder.standard()
                                 .withRegion(Regions.US_EAST_1)
                                 .withCredentials(new AWSStaticCredentialsProvider(creds))
                                 .build();

            glueClient.createJob(req);
        }

public GlueClient createClient() {
        return GlueClient.builder()
                .region(Region.of(regionName))
                .credentialsProvider(ProfileCredentialsProvider.create(profileName)).build();

public static String runGlueJob(GlueClient glueClient, String jobName, Map glueArguments) {

        StartJobRunResponse response = glueClient.startJobRun(StartJobRunRequest.builder().jobName(jobName).arguments(glueArguments).build());
        String jobId = response.jobRunId();
        logger.info("JobId: " + jobId);

        return jobId;

    }

CreateJobResult jobResult = glueClient.createJob(CreateJobRequest.builder()
                .command(JobCommand.builder().pythonVersion("").scriptLocation("").name("").build())
                .defaultArguments()
                .description()
                .glueVersion()
                .logUri()
                .name()
                .numberOfWorkers()
                .role()
                .tags()
                .build());            

26 4 0

• Powershell 脚本 - 脚本 - 我如何禁用它

  我有 powershell 脚本。通过调度程序，我运行 bat 文件，该文件运行 PS1 文件。 BAT文件 Powershell.exe -executionpolicy remotesigned

• Jquery - getScript 版本<脚本>..

  什么更快？ 或者 $.getScript('../js/SOME.js', function (){ ... // with $.ajaxSetup({ cache: true });

• linux - Bash 脚本 Shell 脚本

  需要bash脚本来显示文件 #!/bin/bash my_ls() { # save current directory then cd to "$1" pushd "$1" >/dev/nu

• ksh - Unix 脚本 - 需要提高性能的建议(shell 脚本)

  我有一个输入 csv 文件，实际上我需要在输入文件中选择第 2 列和第 3 列值，并且需要转换两个值的时区(从 PT 到 CT)，转换后我需要替换转换后的时区值到文件。 注意: 所有输入日期值都在太平

• Bash 脚本 - 编写 init.d 脚本

  我正在使用/etc/init.d/httpd 作为 init.d 脚本的模板。我了解文件中发生的所有内容，但以下行除外: LANG=$HTTPD_LANG daemon --pidfile=${pid

• python - 将具有多个子选项的命令行选项传递给 python 脚本 -- shell 脚本

  我有以下选择: python runscript.py -O start -a "-a "\"-o \\\"-f/dev/sda1 -b256k -Q8\\\" -l test -p maim\""

• linux - 用于重命名文件的 Shell 脚本 - Shell 脚本

  我对 shell 脚本完全陌生，但我需要编写一个 shell 脚本来检查文件是否存在，然后移动到另一个位置 这是我写的: 一旦设备崩溃，我就会在/storage/sdcard1/1 中收集日志 #!/

• linux - Bash 脚本 - Bash 脚本 - 编辑文件中文本的行

  我正在使用 bash 脚本从文本文件中读取数据。 数据: 04:31 Alex M.O.R.P.H. & Natalie Gioia - My Heaven http://goo.gl/rMOa2q

• php - 按下按钮运行 php 脚本，该脚本会回显 javascript 脚本

  这是单击按钮时运行的 javascript 的结尾 xmlObj.open ('GET', /ajax.php, true); xmlObj.send (''); } 所以这会执行根目录中的php脚本

• linux - 重新激活 python 脚本 - Linux bash 脚本

  đóng cửa. Câu hỏi này cần thông tin gỡ lỗi. Hiện tại không chấp nhận câu trả lời. Chỉnh sửa câu hỏi để bao gồm hành vi mong muốn, một vấn đề hoặc lỗi cụ thể và

• python - Nodejs 脚本 fs.createReadStream 到 Python 脚本

  我需要将文件转换为可读流以通过 api 上传，有一个使用 fs.createReadStream 的 Node js 示例。任何人都可以告诉我上述声明的 python 等价物是什么？ 例子 const

• python - 从 shell 脚本 cron 调用 python 脚本

  我有一个 shell 脚本 cron，它从同一目录调用 python 脚本，但是当这个 cron 执行时，我没有从我的 python 脚本中获得预期的输出，当我手动执行它时，我的 python 脚本的

• javascript - 安全的 ajax 脚本(javascript 请求的 PHP 脚本)

  如何使 XMLHttpRequest (ajax) 调用的 php 脚本安全。 我的意思是，不让 PHP 文件通过直接 url 运行，只能通过脚本从我的页面调用(我不想向未登录的用户显示数据库结果，并

• 脚本 block 错误中的经典 asp 脚本 block 中的 javascript

  我正在尝试添加以下内容 我正在使用经典的 asp。但我不断收到的错误是“一个脚本 block 不能放在另一个脚本 block 内。”我尝试了此处的 document.write 技术:Javasc

• php - 如何从一个 PHP 脚本(如批处理文件)中运行多个 PHP 脚本？

  如何从另一个 PHP 脚本(如批处理文件)中运行多个 PHP 脚本？如果我了解 include 在做什么，我认为 include 不会起作用；因为我正在运行的每个文件都会重新声明一些相同的函数等。我想

• Cách gọi một tập lệnh Lua từ một tập lệnh/tệp/trang HTML5

  我想创建具有动态内容的网页。我有一个 HTML 页面，我想从中调用一个 lua 脚本 如何调用 lua 脚本？ ? ？ 从中检索数据？我可以做类似的事情吗: int xx = 0; xx

• jquery - 表格行不会自动滚动。脚本 1 滚动，脚本 2 不滚动。为什么？

  我删除了我的第一个问题，并重新编写了更多细节和附加 jSfiddle domos。 我有一个脚本，它运行查询并返回数据，然后填充表。表中的行自动循环滚动。所有这些工作正常，并通过使用以下代码完成。然而

• javascript - amp-script 未找到脚本哈希。 amp-脚本[脚本 ="hello-world"]

  我尝试使用 amp 脚本，但收到此错误: “[amp-script] 脚本哈希未找到。amp-script[script="hello-world"].js 必须在元[name="amp-script

• java - 从 Java 执行 Shell 脚本，具有读取操作的 Shell 脚本

  我有一个读取输入的 Shell 脚本 #!/bin/bash echo "Type the year that you want to check (4 digits), followed by [E

• Redis Lua script - Làm thế nào để truyền một mảng làm tham số cho một tập lệnh Lua trong nodejs?

  我正在从 nodejs 调用 Lua 脚本。我想传递一个数组作为参数。我在 Lua 中解析该数组时遇到问题。 下面是一个例子: var script = 'local actorlist = ARGV