Mistral的Mixtral 8x7B在线测试网址

banq


Mistral 发布了 Mixtral 8x7B,这是一种具有开放权重的高质量稀疏专家混合模型 (SMoE)。

Mixtral-8x7b-32kseqlen、DiscoLM-mixtral-8x7b-v2 现已在我们的推理平台上上线!我们已经针对 Mixtral 优化了 Together 推理引擎,其速度高达100 个token/秒,价格为0.0006 美元/1K 代币— 据我们所知,以最低的价格实现最快的 性能!

点击链接


或者使用这个代码片段: 

curl -X POST https://api.together.xyz/inference \
      -H 'Content-Type: application/json' \
      -H "Authorization: Bearer $TOGETHER_API_KEY"\
      -d '{
      "model": "DiscoResearch/DiscoLM-mixtral-8x7b-v2",
      "max_tokens": 512,
      "prompt": "<|im_start|>user\nTell me about San Francisco<|im_end|>\n<|im_start|>assistant",
      "temperature": 0.7,
      "top_p": 0.7,
      "top_k": 50,
      "repetition_penalty": 1,
      "stream_tokens": true,
      "stop": [
        "<|im_end|>",
        "<|im_start|>"
      ]
    }'

根据 Apache 2.0 许可。Mixtral 在大多数基准测试中都优于 Llama 2 70B。它是最强大的开放权重模型,具有宽松的许可证,也是成本/性能权衡方面的最佳模型。特别是,它在大多数标准基准测试中匹配或优于 GPT3.5。
混合...

  • 处理 32k 令牌的上下文。
  • 处理英语、法语、意大利语、德语和西班牙语。
  • 在代码生成方面表现出强大的性能。
  • 可以微调为指令跟踪模型,在 MT-Bench 上获得 8.3 分。

与ChatGPT比较
下面是对其输入 快速排序后的结果:

快速排序是一种使用分而治之技术对元素数组进行排序的排序算法。它是一种快速高效的算法,在最坏情况下平均时间复杂度为 O(n log n)。
快速排序的基本思想是从数组中选择一个主元素,并围绕它划分其他元素。小于主元的元素放置在主元的左侧,大于主元的元素放置在右侧。然后,该分区过程递归地应用于左右子数组,直到整个数组排序完毕。
快速排序算法的步骤如下:

  1. 如果数组只有一个元素,则返回它(因为它已经排序)。
  2. 从数组中选择一个主元。
  3. 通过将小于主元的元素放置在左侧,将大于主元的元素放置在右侧,围绕主元对数组进行分区。
  4. 递归地将快速排序算法应用于左子数组(小于主元的元素)。
  5. 递归地将快速排序算法应用于右子数组(大于主元的元素)。
  6. 将已排序的左子数组和右子数组组合起来,其中枢轴元素位于其最终位置。

快速排序是一种稳定排序,这意味着相等元素的顺序被保留。它的实现也相对简单,并且在执行排序所需的额外内存方面的开销较低。
然而,快速排序可能容易受到“快速排序综合症”的影响,该算法在最坏的情况下需要 O(n^2) 时间,而不是预期的 O(n log n) 时间。当枢轴元素选择不当并且分区步骤需要很长时间才能完成时,就会发生这种情况。快速排序有多种变体可以避免快速排序综合症,例如“内向排序”和“双枢轴快速排序”。
总的来说,快速排序是一种快速高效的排序算法,广泛应用于许多应用中。它的简单性和稳定性使其成为许多情况下的不错选择,并且其最坏情况时间复杂度仍然优于许多其他排序算法。

chatGPT输出:

Certainly! Below is a simple implementation of the Quick Sort algorithm in Python:
def quicksort(arr):
    if len(arr) <= 1:
        return arr
    else:
        pivot = arr[len(arr) // 2]
        left = [x for x in arr if x < pivot]
        middle = [x for x in arr if x == pivot]
        right = [x for x in arr if x > pivot]
        return quicksort(left) + middle + quicksort(right)

Example usage:
my_list = [64, 34, 25, 12, 22, 11, 90]
sorted_list = quicksort(my_list)
print("Sorted list:", sorted_list)

在这个例子中

  • quicksort 函数是一个递归函数,使用快速排序算法对输入列表进行排序。
  • 它从列表中选择一个枢轴元素,将列表划分为小于枢轴的元素、等于枢轴的元素和大于枢轴的元素。
  • 然后,函数递归地对左右分区应用 quicksort 算法,并将结果连接起来。

快速排序的时间复杂度一般平均为 O(n log n),因此是一种高效的排序算法。

Mistral没有chatGPT 3.5那样给出快速排序代码,但是文字描述很多。